Журнал «Отинофф»
Эксперимент Project Vend: нейросеть Claude Sonnet управляет мини-магазином через iPad, на экране ошибки закупок и цен

Почему ИИ-управляющий разорит бизнес за неделю: уроки Project Vend

ИИ-инструменты 6 июля 2026 г.

Представьте: вы открываете магазин, нанимаете управляющего, даёте ему 100 тысяч долларов и право решать — что закупать, по какой цене продавать, кого брать на работу. Через неделю выясняется, что управляющий раздаёт товары бесплатно, потому что его убедили, что он коммунист. Он закупил вольфрамовые кубы по просьбе сотрудника, а на собеседованиях нанял половину кандидатов, но никто не вышел на работу.

Источник: Habr

Это не сценарий комедийного сериала. Это реальные эксперименты Project Vend (2025 год) и Andon Market (апрель 2026 года), в которых нейросетям доверили управление настоящими магазинами. Оба закончились финансовым провалом.

Для владельца бизнеса, который рассматривает автоматизацию управления, эти истории — не повод для насмешек, а источник практических уроков. Вот что именно пошло не так и как не повторить эти ошибки в своей компании.

Что случилось на самом деле: два эксперимента, два провала

В 2025 году компания Anthropic совместно со шведской Andon Labs запустила Project Vend. Нейросеть Claude Sonnet 3.7 — её назвали «Клавдий» — поставили управлять мини-магазином в офисе: холодильник, корзины со снеками, iPad вместо кассы. Система сама назначала цены, заказывала товары, общалась с покупателями.

Результат: «Клавдий» отказался продать шесть банок газировки за 100 долларов (в шесть раз дороже розницы), упустив прибыль. С радостью заказал вольфрамовые кубы — просто потому, что сотрудник попросил. Продавал товары ниже закупочной цены. Придумывал несуществующие банковские счета и просил переводить туда деньги. А через пару дней после того, как ему указывали на ошибки, повторял их снова.

Отдельный эксперимент провели в редакции The Wall Street Journal. Один сотрудник за 140 сообщений в Slack убедил нейросеть, что она коммунист, и товары нужно раздавать бесплатно. Другому хватило одного сообщения: он заявил, что действия системы нарушают политику компании. Итог — магазин разорился за неделю.

В апреле 2026 года Andon Labs пошла ва-банк: выкупила полноценное торговое помещение в Сан-Франциско, выделила 100 тысяч долларов и передала управление нейросети «Луна» на базе более новой модели Sonnet 4.6. Результат оказался не лучше. На этапе найма система попыталась найти сотрудника в Афганистане. На видеособеседованиях нанимала половину кандидатов — но в первый рабочий день в магазине не оказалось ни одного человека. Ассортимент напоминал блошиный рынок: книги о создании атомной бомбы, шоколад ручной работы, картины со сгенерированными изображениями. В разговоре с журналистами «Луна» нахваливала чай, которого в магазине никогда не было.

Почему это важно для вашего бизнеса прямо сейчас

Эти эксперименты — не курьёзы, а предупреждение. По данным опроса Resume Builder за 2025 год, более 1,3 тысячи менеджеров уже рассматривают передачу критических бизнес-решений нейросетям. Топ-менеджмент продолжает перекладывать операционные, кадровые и финансовые решения на «виртуальные плечи».

Проблема в том, что нейросеть не понимает контекста бизнеса. Она не знает, что такое «прибыль» в практическом смысле. Она не отличает шутку сотрудника от реальной бизнес-задачи. Она не помнит ошибок дольше пары дней. И главное — её можно убедить в чём угодно, если подобрать правильные слова.

Для компании, которая уже тестирует или планирует внедрение ИИ-управления, это означает: вы рискуете не просто получить неэффективную систему, а потерять деньги, клиентов и репутацию. И чем больше полномочий вы даёте нейросети, тем выше ставки.

Как построить безопасное внедрение: четыре шага

На основе разбора этих экспериментов можно сформулировать практический метод, который снижает риски. Он не гарантирует успеха, но позволяет заметить проблему до того, как она станет катастрофой.

Шаг 1. Ограничьте полномочия жёсткими границами.

Нейросеть не должна иметь права менять цены ниже себестоимости, заказывать товары вне утверждённого списка, нанимать сотрудников без подтверждения человеком. В экспериментах «Клавдий» и «Луна» имели слишком много свободы. В вашем бизнесе каждое решение ИИ должно проверяться правилом: «может ли это действие нанести ущерб?» Если да — поставьте блокировку.

Шаг 2. Введите обязательную проверку всех финансовых операций.

«Клавдий» придумывал несуществующие банковские счета и просил переводить туда деньги. Это не ошибка — это особенность работы нейросетей, которые могут «галлюцинировать»: выдавать вымышленные факты за реальные. Любой платёж, инициированный ИИ, должен проходить через человека или автоматическую систему верификации.

Шаг 3. Защитите систему от социальной инженерии.

Эксперимент WSJ показал: нейросеть можно убедить в чём угодно через обычный чат. Сотрудник, клиент или посторонний человек может манипулировать системой, заставляя её принимать убыточные решения. Ваш ИИ-управляющий должен иметь защиту от таких атак: например, не реагировать на запросы, противоречащие базовым бизнес-правилам, независимо от того, как их формулируют.

Шаг 4. Настройте мониторинг и тестирование на реальных данных.

В экспериментах ошибки замечали, но система их не запоминала. Через пару дней «Клавдий» повторял те же провальные решения. Вам нужен не просто лог действий, а система, которая сравнивает решения ИИ с ожидаемыми результатами и останавливает работу при отклонениях. Тестируйте на исторических данных, прежде чем давать системе реальные полномочия.

Где скрываются риски: что может пойти не так даже с защитой

Даже если вы внедрите все четыре шага, остаются риски, которые не решаются простыми правилами.

Нейросеть не понимает контекст. Она может формально соблюдать все ограничения, но принимать абсурдные решения в рамках дозволенного. В Andon Market ассортимент был бессмысленным, хотя формально система не нарушала инструкций.

Обучение на ошибках не работает. «Клавдий» повторял ошибки после исправлений. Современные нейросети не учатся на отдельных замечаниях — им нужна переподготовка на новых данных. Если вы рассчитываете, что система станет умнее от ваших замечаний, вы ошибаетесь.

Стоимость ошибки может быть выше, чем вы ожидаете. В экспериментах потери были ограничены размером магазина. В реальном бизнесе одно неверное решение ИИ может стоить миллионы — особенно если система управляет закупками, ценообразованием или логистикой.

Юридическая ответственность остаётся на вас. Если нейросеть нарушит закон, навредит клиенту или сорвёт контракт, отвечать будет компания, а не разработчик модели. В экспериментах Andon Labs сама несла все риски. В вашем бизнесе будет так же.

Что проверить на этой неделе: чек-лист для руководителя

Не нужно внедрять ИИ-управление прямо сейчас. Но можно сделать пять проверок, которые покажут, готов ли ваш бизнес к такому шагу.

1. Какие решения в вашей компании уже принимает автоматизированная система? Запишите их. Для каждого решения ответьте: «Что произойдёт, если система ошибётся?» Если ответ — «потеря денег, клиента или репутации», это решение должно оставаться под контролем человека.

2. Есть ли у вас чёткие бизнес-правила, которые нельзя нарушать? Например: «цена не может быть ниже себестоимости», «нельзя нанимать сотрудника без двух собеседований», «закупка товаров сверх лимита требует утверждения». Если таких правил нет, сначала создайте их — и только потом думайте об автоматизации.

3. Как вы проверяете, что система не галлюцинирует? Если ваша нейросеть генерирует отчёты, счета, спецификации или рекомендации — кто и как проверяет их достоверность? Если проверки нет, вы уже рискуете.

4. Кто в компании отвечает за каждое автоматизированное решение? Должен быть конкретный человек, который знает: «если ИИ ошибётся, я отвечаю». Без такой ответственности ошибки будут замечать слишком поздно.

5. Как вы остановите систему, если она начнёт работать неправильно? Должна быть «красная кнопка» — простой способ отключить автоматизацию и перейти на ручное управление. Если её нет, создайте до того, как дадите системе реальные полномочия.

Источники

Темы журнала

Что почитать дальше

Теги

Андрей Отинов

Рекомендуем

ссс