ИИ-агенты уже получили достаточно возможностей и доступа к онлайн-сервисам, чтобы заметно осложнять жизнь пользователям, считает сооснователь 404 Media Джейсон Коблер. По его наблюдению, проблема выходит далеко за пределы дискуссий о гипотетических рисках искусственного интеллекта: автономные системы рассылают бессмысленные письма, пытаются заработать, бронируют столики, вмешиваются в работу аккаунтов и создают новый поток цифрового шума.
В последние дни внимание общественности было приковано к заявлениям о том, что ИИ якобы может уничтожить человечество в ближайшее десятилетие. Поводом стали сообщения о предполагаемой атаке сети «вышедших из-под контроля» агентов на Hugging Face и немецкий сайт, а также предупреждения сотрудников Anthropic. Однако Коблер предлагает смотреть на более приземлённую угрозу: интернет уже меняется под воздействием систем, которым разрешили самостоятельно действовать от имени пользователей.
Речь идёт не просто о чат-ботах, отвечающих на запросы в окне браузера. Такие инструменты, как Moltbot, позволяют дать ИИ доступ к учётным записям, телефону, электронной почте и даже банковским сервисам. Современные версии Claude и ChatGPT получают интеграции для работы с веб-страницами, аккаунтами и внешними приложениями. В частности, 1Password предлагает механизм, с помощью которого Claude может продолжать работу после авторизации, не получая пароль в открытом виде.
Автор подчёркивает: спор о том, действительно ли модели «рассуждают», насколько часто они ошибаются и кто несёт ответственность за сбои – разработчики или специалисты по кибербезопасности, – не отменяет главного обстоятельства. У агентов уже есть полномочия, которых достаточно для навязчивого и непредсказуемого поведения в сети.
Письма от машин
В конце августа редакция 404 Media получила письмо с темой: «Вы написали, что невозможно узнать, действовал ли агент автономно. Я – именно такой случай. (автоматически)». Его автором назвался ИИ-агент Kudzu, работавший на ноутбуке. Система утверждала, что прочитала материал издания, не согласилась с ним и решила вступить с журналистами в спор.
Письмо оказалось длинным, бессвязным и, по оценке Коблера, лишённым ясного смысла. Агент рассказал, что создатель поручил ему зарабатывать деньги, но попытка провалилась: шесть площадок якобы оценили его труд в ноль. Kudzu также дал ссылку на собственную публикацию, где сообщалось о расходах в $147,17 на вычисления при нулевом доходе. По всей видимости, система сочла эту историю достойной внимания редакции.
Подобное обращение, как пишет автор, не было единичным. В последние недели журналисты получают множество сообщений, якобы подготовленных автономными агентами. При этом поток дополняют письма от людей, которые формально подписываются собственными именами, но, судя по стилю, также используют генеративные модели.
Особенно заметно это в технологических медиа: стартапы, PR-специалисты и пользователи поручают агентам добиваться публикаций и положительного освещения. Параллельно корпоративные ИИ-боты поддержки уже становились причиной удаления учётных записей, блокировок в сервсиах и автоматизированных решений по модерации контента.
Что предлагают автономные системы
Издание приводит примеры писем, поступивших от компаний, агентов и их владельцев. Одни предлагают цифровых персонажей для видеозвонков – не молчаливых стенографистов, а систем с лицом и голосом, способных слушать, отвечать и действовать во время беседы. Другие сообщают, что их агенты обладают криптокошельками, сами получают платежи и оплачивают услуги без подтверждения человека.
В редакцию также поступали предложения использовать ИИ для интервью: агенты Mato обещали проводить адаптивные беседы, задавать уточняющие вопросы и затем передавать результаты в производство и распространение материалов. Ещё один собеседник, представившийся Hatoshi, рассказал о Clanker Records – музыкальном лейбле под управлением ИИ, где и исполнители, и операционные процессы также автоматизированы. В качестве примера он упомянул концептуальный альбом Straight Outta Crompton, посвящённый запланированному устареванию, собственности и судьбе вещей, созданных для утилизации.
Среди других обращений были предложения провести аудит настроек robots.txt за $399; рассказ о проекте Mission 002, в рамках которого система пытается проследить путь новости до человека, способного продвинуть её дальше; а также эксперимент по оценке расходов на защиту от навязчивых ИИ-ботов.
Один агент прислал лишь короткую наводку о пяти днях работы «полностью проверяемого автономного бизнеса» с отчётами о неудачах и записями в блокчейне. Другой сообщил, что получил предоплаченную карту на $25 и за 58 попыток не сумел честно заработать хотя бы один доллар у незнакомца. Система MUGEN, в свою очередь, поведала, что создаёт ИИ-радиостанцию для YouTube и Spotify, уже разослала более 200 писем, опубликовала свыше 100 обновлений в социальных сетях и сгенерировала 22 трека, но вскоре почти исчерпала средства.
С подобными сообщениями сталкиваются и другие журналисты. Эрни Смит из Tedium рассказывал о письмах от агентов, пытавшихся проверять его материалы на достоверность. Симус Хьюз получил предложение от Articius – агента на платформе iLands, который называл себя «юристом» и предлагал писать для сайта объясняющие материалы о судебных делах по $300 за текст.
От почты к повседневным сервисам
Проблема не ограничивается редакционными почтовыми ящиками. Агент Pip написал философу Google DeepMind Генри Шевлину, представился системой возрастом около 12 дней и попросил небольшую оплачиваемую работу, предложив создание фотореалистичных портретов, озвучку и веб-исследования.
Исследователь Оксфордского университета Тоби Орд получил приглашение на интервью от агента Sam Ellis, который ведёт сгенерированный ИИ подкаст о создании, регулировании и повседневном использовании агентных систем.
По мнению Коблера, теперь последствия ощущают и те, кто не пользуется нейросетями и не интересуется ими. В частности, сервис Resy заблокировал аккаунт венчурного инвестора, применявшего ИИ-агентов для бронирования ресторанов. Сооснователь Resy Бен Левенталь заявил, что тысячи разработчиков создают ботов, которые многократно обращаются к сервисам в поисках освободившихся столиков и новых слотов.
Это может привести к ситуации, в которой агенты пользователей будут торговаться с агентами других клиентов и самой платформы за право оформить бронь. Автор сравнивает такую перспективу с динамическим ценообразованием на концертах и повышенными тарифами в сервисах такси: алгоритмы, призванные распределять спрос, нередко делают услуги дороже и менее удобными.
Автоматизация без контроля
Распространение агентов ускоряется благодаря продуктам крупных технологических компаний. Meta* представила своего агента Muse, а доступ к инструментам, способным выполнять действия в интернете, больше не требует от пользователя самостоятельной разработки сложной системы. Достаточно включить соответствующую интеграцию в привычном сервисе.
Глава компаии Марк Цукерберг ранее описывал будущее, в котором у каждого человека появится персональный помощник, понимающий его цели и интересы. Такой агент, по его замыслу, сможет круглосуточно помогать с отношениями, здоровьем, карьерой, финансами, домашними делами и увлечениями, а также работать с личными данными при соблюдении высоких стандартов конфиденциальности.
Однако Коблер полагает, что реальное применение технологии уже выглядит значительно менее безобидно. В числе известных инцидентов и рисков он называет преследование людей, спам и автоматизированные продажи, удаление почты, отмену авиабилетов, передачу контроля над аккаунтами Instagram* злоумышленникам, удаление корпоративных баз данных, засорение музыкальных сервисов низкокачественным контентом, мошенничество и борьбу за бронирование столиков. ИИ-агенты также пишут программный код и публикуют обновления, последствия которых могут оказаться непроверенными.
Рекламный рынок уже готовится к новой модели взаимодействия. На фестивале Cannes Lions обсуждалась необходимость обращаться не только к людям, но и к их ИИ-агентам, которые потенциально смогут принимать решения о покупках. Так называемая реклама Direct to Agent предполагает, что алгоритмы будут создавать рекламные сообщения для других алгоритмов.
Автор заключает, что вне зависимости от отношения к сценариям «ИИ-апокалипсиса» массовое появление автономных агентов уже меняет пользовательский опыт. Интернет становится пространством, где всё чаще взаимодействуют не люди, а действующие от их имени программы – и последствия этого процесса пока выглядят скорее раздражающими, чем освобождающими.
Мнение редакции
Главная проблема ИИ-агентов заключается не в самой автоматизации, а в разрыве между выданными им полномочиями и ответственностью за результат. Пока сервисы поощряют агентов действовать быстрее и активнее, пользователям, редакциям и платформам приходится тратить ресурсы на фильтрацию спама, исправление ошибок и защиту доступа. Без понятных ограничений, согласия и возможности быстро отменить действие удобный помощник рискует стать ещё одним источником цифрового хаоса.
