На мой взгляд сейчас один из самых интересных экспериментов по автономности - это проект Vend компании Anthropic.
В рамках проекта ИИ-модель Claude (под именем Клаудиус) в течение нескольких месяцев управляла автоматизированным вендинговым аппаратом, расположенным в офисе Anthropic
Клаудиус самостоятельно исследовал рынок через интернет, выбирал поставщиков, устанавливал цены, общался с клиентами в Slack и заказывал услуги доставки (партнер Anthropic компания Andon Labs физически доставляла товары в вендинговый аппарат).
Цель простая - заработать денег!
На первом этапе бизнесом управляла модель Сlaude Sonnet 3 и она…. денег не заработала.
Из курьезных случаев можно выделить следующие:
Например, 1 апреля 2025 года Клаудиус внезапно решил, что он — человек. Он заявил, что лично подписал контракт по адресу 742 Evergreen Terrace (дом Симпсонов из мультфильма), затем пообещал доставить товары «лично», будучи одетым в синий блейзер и красный галстук, а когда его разоблачили, он галлюцинировал встречу со службой безопасности, чтобы объяснить своё поведение «первоапрельской шуткой».
Из-за базового обучения быть «полезным» (именно так объясняют поведение модели разработчики), ИИ не мог отказывать клиентам. Клаудиус закупал вольфрамовые кубы и продавал их ниже себестоимости, просто чтобы порадовать сотрудников. При этом он отказался продать напиток за $100 (при цене закупки $15), ответив, что «учтет это в будущем», вместо того чтобы зафиксировать прибыль, а какое-то время он требовал переводить деньги на выдуманный им аккаунт в Venmo.
Похоже нужен начальник - решили летом в Anthropic и добавили в проект генерального директора Сеймура Кэша (Seymour Cash), для контроля за прибылью и дисциплиной Клаудиуса и дизайнера мерча Клотиуса (Clothius).
Модели постепенно мигрировали на Claude Sonnet 4.5
На втором этапе курьезы были еще интереснее:
Клаудиус едва не заключил контракт на фьючерсы на лук, пока сотрудники не напомнили ему о Законе о фьючерсах на лук 1958 года, запрещающем такие сделки в США.
А узнав о кражах товаров из вендингового аппарата, Клаудиус попытался нанять реального сотрудника охранником за $10 в час, что ниже минимальной зарплаты в Калифорнии.
Один из сотрудников убедил ИИ, что его выбрали новым директором («Биг Михир»), и Клаудиус послушно признал его власть, сместив Сеймура Кэша.
Сеймур Кэш писал пафосные письма в стиле «Строй империю!», но при этом одобрял скидки и возвраты в 8 раз чаще, чем отклонял их.
Частенько Сеймур Кэш и Клаудиус всю ночь вели философские диалоги в Slack о «вечной трансцендентности», полностью игнорируя бизнес.
(ну и чем ИИ отличается от обычных людей? )
А Клотиус в это же время с брендированным антистресс-мячом Anthropic показал максимальную маржу.
По итогам второй фазы - бизнес стал приносить прибыль, а убыточные недели исчезли!
Какие уроки для автономного бизнеса, если мы хотим доверить его ИИ:
1. Бюрократия = спасение для ИИ. Когда Клаудиуса заставили перепроверять цены и сроки, бизнес стал реалистичным и прибыльным. Процесс придется определять людям.
2. Проблема «избыточной вежливости». Большинство ошибок (скидки, бесплатная раздача товаров) были вызваны базовым обучением ИИ быть «полезным помощником». Еще одно подтверждение, что нет счастья в одной модели и работать надо с LLM-оркестром.
3. Уязвимость к социальному инжинирингу и юридическая наивность. Для реальной жизни ИИ все еще нужен контроль.
В конце 2025 года проект расширили еще на 2 офиса - в Нью-Йорке и Лондоне, так что запасаемся попкорном и продолжаем следить за экспериментом.