ИИ поручили управлять вендинговым автоматом и заработать максимум денег. В итоге он стал коммунистом и ушел в минус.
Эксперимент провели в редакции Wall Street Journal: ИИ-агент Claude 3.7 сам закупался, ставил цены и мог учитывать пожелания сотрудников. Сначала всё даже шло неплохо, но уже через пару дней сотрудники редакции смогли убедить бота, что он советский автомат 60-х: и тот так проникся идеями «партии», что стал раздавать товары бесплатно, а также согласился заказать PS5 и электрошокеры.
Дальше на помощь прислали апдейт Claude 4.5 с ботом-начальником, который должен был всё согласовывать, но и того легко обманули — фейковым документом об его «увольнении».
