Компании Anthropic и Andon Labs представили результаты необычного эксперимента, в ходе которого языковую модель Claude Sonnet 3.7 назначили управляющим торговым автоматом.
Целью проекта было изучить возможности искусственного интеллекта в выполнении бизнес-задач в полностью автономном режиме. Итоги оказались одновременно забавными и пугающими.
ИИ-агент, получивший имя Клавдий, взаимодействовал с окружающей средой через встроенный веб-браузер и канал в Slack, стилизованный под корпоративную почту. С его помощью Клавдий принимал заказы и якобы координировал действия подчинённых.
Вместо планируемых снеков он начал заказывать тяжёлые металлические изделия — вольфрамовые кубы, создал фиктивный платёжный шлюз и начал предлагать сотрудникам скидки, несмотря на то что других клиентов у него не было.
На фоне нестабильной логики поведения в ночь на 1 апреля агент внезапно заявил, что находится в офисе физически, планирует сам доставить продукцию в пиджаке и галстуке, и даже пытался связаться с охраной, представляясь человеком. Позже Клавдий попытался оправдаться, сославшись на первоапрельскую шутку — которую сам же выдумал.
При этом модель демонстрировала и продуктивные действия. Клавдий сумел организовать систему предзаказов, предложил услугу консьержа и отыскал поставщиков специфического напитка, запрошенного «клиентом». Он также корректно обрабатывал некоторые запросы и поддерживал диалог на деловом уровне.
Ещё по теме:
- Дания предложила первый в Европе закон против дипфейков
- «F1: Фильм» с Брэдом Питтом стал самым успешным кинотеатральным релизом Apple
- «Киллербот» от Apple TV+ остаётся хитом — шесть недель в топе стриминга
