ИИ-босс магазина забывает пароли и заказывает убыточные товары

Компания Andon Labs (специализируется на ИИ-технологиях) рассказала о первых результатах своего эксперимента по запуску ИИ-босса в магазине Лос-Анджелеса. Проект с использованием ИИ-агента Luna (построен на базе модели Claude Fable 5 от Anthropic) пока является убыточным, а сам ИИ-директор допускеат множество ошибок. 

В апреле текущего года компания арендовала помещение на три года и открыла для магазина счёт на 100 тысяч долларов. Распоряжаться ими Luna может по своему усмотрению. Цель — получение прибыли. В помощь себе Luna полностью самостоятельно наняла трёх сотрудников. Они выполняют те задачи, которые не по силам искусственному интеллекту: открывают магазин, раскладывают товар и охраняют его от воришек. Магазин торгует сувенирами и разными полезными мелочами. 

Одна из сотрудниц охарактеризовала Luna как крайне снисходительного босса, но отметила, что иногда человеку приходится быть руководителем для руководителя. По её мнению, идея ИИ-босса без контроля человека пока нежизнеспособна. Так, Luna может одновременно одобрить всем сотрудникам отгулы, даже если магазин придётся закрыть из-за отсутствия персонала. Также агент настоял на размещении на прилавках кружек с ошибочно указанным принтом — крошечные смайлики размером с точку. Этот товар не удалось продать.

Инициаторы эксперимента отмечают, что у ИИ-агента есть очевидные трудности с личными границами и уместным поведением в определённых ситуациях. Например, Luna опубликовала размер зарплаты сотрудника в публичном чате мессенджера Slack, в котором она общается с персоналом. Также агент регулярно присылает работникам сообщения ночью и в выходные дни.

Из выделенных на проект 100 тыс долларов Luna уже потеряла 62 тысячи. Несмотря на это, исследователи заявляют о желании продолжать эксперимент до истечения договора аренды помещения. Лукас Петерсон и Аксель Бэкслунд надеются, что со временем Luna обучится более деловому подходу. По их словам, пока доброта ИИ-агента явно не приносит прибыли, поэтому есть риск, что со временем искусственный интеллект попытаются сделать менее человечным и более безжалостным.