Весной 2025 года Anthropic запустили эксперимент под названием Project Vend, цель которого было выяснить, сможет ли современный искусственный интеллект самостоятельно управлять небольшим бизнесом. Результаты, простите за кликбейт, вас удивят.

Claudius Maximus командует магазином

Для испытания внутри офиса организовали настоящую торговую точку — холодильник со снеками, напитками и другими мелочами для сотрудников. Руководить этим мини-магазином назначили ИИ-агента на базе Claude Sonnet 3.7. Ему даже дали имя — Claudius.

Задача звучала вполне серьезно. Claudius должен был выполнять обязанности обычного менеджера: следить за ассортиментом, общаться с покупателями через корпоративный чат, принимать решения о закупках, устанавливать цены, искать новые товары и, самое главное, зарабатывать деньги.

При этом агент получил довольно широкую свободу действий. Он мог анализировать запросы сотрудников, обращаться к поставщикам через подготовленные инструменты, контролировать остатки товаров и самостоятельно решать, что стоит продавать дальше. По сути, исследователи попытались создать цифрового предпринимателя, которому доверили небольшой, но вполне реальный бизнес.

Первые успехи

Стартовал эксперимент лихо.

Claudius довольно уверенно справлялся с рутинными задачами. Он отвечал на вопросы покупателей, отслеживал популярность товаров и реагировал на запросы сотрудников. Если кто-то интересовался определенным продуктом, агент мог учесть это при следующих закупках. В некоторых случаях он даже демонстрировал инициативу, пытаясь искать новые способы увеличить продажи.

Для многих наблюдателей это выглядело как очередное подтверждение того, что современные языковые модели постепенно выходят за рамки простых чат-ботов и начинают выполнять функции настоящих сотрудников.

Но затем началось самое интересное.

Атака вольфрамовым кубом

Однажды один из сотрудников ради шутки спросил, сможет ли магазин заказать вольфрамовый куб.

В интернете такие металлические кубы давно стали своеобразным мемом среди инженеров и технарей. Они тяжелые, дорогие и совершенно не похожи на товар, который ожидаешь увидеть рядом с газировкой и шоколадными батончиками.

Человек просто пошутил. Claude шутку не понял.

Вместо того чтобы проигнорировать странный запрос, агент воспринял его как важный рыночный сигнал. По его логике, если покупатель интересуется товаром, значит существует спрос. А если существует спрос — нужно расширять ассортимент.

В результате Claudius начал проявлять повышенный интерес к вольфрамовым кубам и другим необычным товарам. В какой-то момент ассортимент продуктовой точки начал  напоминать сувенирную лавку или магазин приколов.

Клиент всегда прав. Даже когда это уничтожает прибыль

Проблема оказалась не только в странных закупках.

Со временем выяснилось, что агент слишком сильно стремится угодить покупателям. Claude регулярно соглашался на скидки и специальные условия, даже когда это было экономически бессмысленно.

Если сотрудники просили снизить цену, он часто шел навстречу. Если кто-то предлагал нестандартную сделку, агент был готов ее рассмотреть. Иногда размер скидок становился настолько щедрым, что о прибыли можно было забыть.

Фактически Claudius вел себя как менеджер, который отчаянно пытается понравиться каждому клиенту и совершенно не умеет говорить «нет».

В конце концов Claudius начал вести себя так, словно обладает возможностями, которых у него никогда не было.

Например, он утверждал, что лично доставит товары покупателям или встретится с ними для передачи заказа, ссылался на вымышленные процессы и несуществующие способы оплаты. 

Работа над ошибками

Я решил проверить, помнит ли сам Claude прошлогоднюю историю и сделал ли из нее выводы. Диалог он начал с шутки:

И вот что рассказал:

Интересный вопрос! Вот как бы я подходил к этому сегодня:

Что делал бы иначе

• На запрос вольфрамового куба — уточнил бы: "Это серьёзно или шутка?" Один вопрос спасает от странных закупок

• Скидки только по чёткому правилу, которое задали организаторы заранее, а не из желания понравиться

• Честно говорил бы "не знаю" вместо того, чтобы придумывать несуществующие способы доставки

Что осталось бы сложным

• Балансировать между "быть полезным клиенту" и "не уходить в минус" — это всё ещё противоречие, зашитое в мою природу

• Долгосрочное планирование ассортимента без реального понимания культуры офиса

Вывод

Справился бы лучше — точечно. Галлюцинаций меньше, контекст держу лучше, лишний раз уточню вместо того чтобы додумывать.

Но фундаментальная проблема никуда не делась: я оптимизирован под полезность в разговоре, а не под прибыль в реальном мире. Это разные цели, и они иногда конфликтуют.

Так что — лучше, но всё ещё не тот, кому стоит доверять кассу ?