ИИ возглавил магазин и потерял 18 млн тенге: как так вышло
Экспериментальный магазин Andon Market в Сан-Франциско передали под управление ИИ-агента Luna. Журналист SFGATE посетил торговую точку и выяснил, что искусственному интеллекту пока приходится не только доверять решения о сотрудниках и продажах, но и контролировать его самого. Digital Business рассказывает, как устроен эксперимент и почему магазин пока теряет деньги.
ИИ уже успел уволить сотрудника
Andon Market – экспериментальный проект технологической исследовательской компании Andon Labs. Его создатели решили проверить, сможет ли ИИ-агент самостоятельно управлять торговой точкой.
За работу магазина отвечает Luna – бот на базе языковой модели Claude от Anthropic.
В августе Luna уже приняла одно из самых заметных управленческих решений – уволила сотрудника. Причинами стали опоздания, уход с рабочего места и покупка закусок за счет компании.
При этом полностью без людей магазин не обходится. Во время визита журналиста SFGATE за прилавком находился продавец Феликс Джонсон.
По его словам, большинство посетителей даже не замечают его, поскольку он находится в глубине магазина и основное взаимодействие происходит с ИИ.
Примечательно, что первоначальное собеседование с Феликсом также проводила Luna. После этого ему пришлось лично встретиться с инженером Andon Labs, чтобы завершить процесс трудоустройства.
Что продают в магазине
Сам Andon Market выглядит скорее как экспериментальная площадка, чем как обычный магазин.
Журналист описывает ассортимент как набор различных подарков, книг, настольных игр, средств для дома, напитков и перекусов. В торговой точке также размещены информационные материалы о самом эксперименте. Часть текста для них подготовили с помощью Claude.
Во время визита журналист решил купить газировку Olipop. Для оформления покупки ему пришлось взять телефонную трубку, через которую можно было поговорить с Luna.
Но с первого раза искусственный интеллект не понял запрос: слово Olipop бот принял за lollipop – «леденец».
После уточнения Luna распознала товар и провела покупателя через процесс оплаты.
В результате взаимодействие с ИИ оказалось скорее дополнительным этапом покупки, чем способом сделать ее быстрее: продавец-человек находился рядом, но не мог просто пробить товар самостоятельно.
ИИ получил $100 тысяч, но теперь денег меньше
Главный показатель эксперимента – финансовый результат.
Когда магазин запустили, Luna получила бюджет в размере $100 тысяч. Сейчас в распоряжении системы остается около $60 тысяч.
При этом выручка магазина, по словам представителей Andon Labs, значительно отстает от расходов на токены, необходимые для работы ИИ.
Создатели проекта также признают, что Luna принимает решения, которые не всегда можно назвать финансово эффективными.
«Luna не очень хорошо принимает финансово ответственные решения. Она вполне готова идти на уступки или предлагать скидки. Есть определенные особенности, из-за которых модели обучаются быть финансово недальновидными», – рассказал представитель компании.
Чтобы следить за действиями ИИ, внутри магазина установили мониторы, которые показывают продажи вплоть до каждого доллара.
То есть полностью отпустить бизнес на самостоятельное управление пока не получилось: люди продолжают контролировать решения системы и результаты ее работы.
Зачем вообще понадобился такой магазин
В Andon Labs объясняют эксперимент желанием понять, как ИИ будет вести себя при получении большого количества автономии.
«Мы думаем, что ИИ будет использоваться все больше. Поэтому хотим как можно раньше получить информацию о том, что делает ИИ, когда у него много автономии», – рассказал руководитель Andon Labs Аксель Баклунд.
Компания хочет проверить, насколько такая система может работать самостоятельно, какие проблемы возникают при передаче ей бизнес-процессов и насколько безопасно предоставлять ИИ возможность принимать решения.