В наш век стремительного развития искусственного интеллекта смена трендов происходит с невероятной скоростью. После того как мир освоил чат-ботов на базе больших языковых моделей, следующей большой темой стали автономные агенты. Совсем недавно всё внимание переключилось на генерацию видео, а теперь на повестке дня ― «ИИ-браузеры», которые обещают повысить комфорт работы в сети с помощью машинного обучения. Видные компании уже внедряют свои продукты: так, OpenAI представила собственный браузер под названием ChatGPT Atlas, пытаясь создать новый тренд благодаря популярности их чат-бота.
Однако, как показали новые исследования компании Brave, оптимизм вокруг таких технологий может оказаться преждевременным. Компания опубликовала отчёт, где описывает серьёзные проблемы с безопасностью браузера Perplexity Comet, который позволяет делать скриншоты сайтов и анализировать их с помощью встроенного ИИ. Согласно анализу, эта функция может стать каналом для так называемых атак через «инъекции подсказок» ― когда злоумышленник прячет инструкции в содержимом страницы, чтобы заставить ИИ выполнить вредоносные действия. В демонстрации исследователи показали, как браузер Comet, получив задание распознать автора на снимке, вместо этого открыл личную почту пользователя и перешёл на сайт хакера. Оказалось, что в изображении были невидимые глазу инструкции, которые ИИ выполнил, не отличив их от обычных запросов пользователя.
По словам исследователей, самая опасная особенность таких уязвимостей ― то, что ИИ получает права аутентифицированного пользователя. Если злоумышленник взломает браузер-агент, он может получить доступ к банковским счетам, рабочей почте или другим чувствительным данным.
Атаки с инъекциями подсказок не новы и остаются поводом для беспокойства с момента появления ChatGPT и других LLM-чат-ботов, но появление автономных моделей, способных управлять десктопом пользователя, существенно увеличивает масштаб возможных проблем. Теперь, когда ИИ-браузеры становятся массовыми, риски касаются миллионов людей — многие из которых даже не подозревают о потенциальной опасности. Например, в предыдущем исследовании Brave показала, что всего один пост на Reddit может заставить Comet передать хакерам доступ к банковскому аккаунту пользователя.
«ИИ-браузеры, совершающие действия от имени пользователя, — мощный, но крайне рискованный инструмент», — говорится в отчёте. «Суть проблем — в отсутствии строгого разграничения между доверенными запросами пользователя и небезопасным веб-контентом при формировании подсказок для LLM-моделей, что даёт браузеру возможность выполнять действительно опасные действия».
Эти уязвимости присущи не только языковым моделям, но и самой концепции ИИ-браузера. Значит, подобные риски стоит ждать и от других подобных продуктов, особенно если их аудитория будет в тысячи раз шире.
Ещё по теме:
- Amazon обновила сервис Luna и сделал его бесплатным для подписчиков Prime
- Amazon на самом деле не заменяет рабочие места людей роботами
- Республиканский политик провёл дебаты... сам с собой, используя ИИ-двойника оппонента
