Старший советник по управлению ИИ в Центре демократии и технологий (CDT) Кевин Бэнкстон во время работы с ИИ-ассистентом Gemini, обнаружил, что нейросеть в автоматическом режиме и без какого-либо разрешения проанализировала документ, который был открыт в Google Docs.
Специалист рассказал о своей истории в соцсетях, уточнив, что на компьютере он просто открыл свою налоговую декларацию в PDF-формате с использованием облачного редактора документов в Google Docs. После этого ИИ-ассистент Gemini неожиданно предоставил ему краткий анализ всех его налогов. Кевин Бэнкстон уточнил, что не запускал генеративный искусственный интеллект и не давал какого-либо согласия на проверку своих файлов.
Последующее изучение принципов работы ИИ-ассистента Gemini показало, что соответствующая проблема возникала только при взаимодействии с PDF-документами. Кевин Бэнкстон полагает, что после того, как он один раз открыл PDF-документ и нажал на кнопку Gemini, тем самым предоставил ассистенту разрешение запускаться и проверять каждый открытый на компьютере PDF-файл.
После этого Кевин Бэнкстон захотел полностью отключить этот функционал, спросив у службы поддержки, как это сделать, но в итоге получил от чат-бота невразумительные инструкции, которые ни к чему не привели. В результате необходимые настройки мужчина отыскал сам, но и тут его ждало разочарование, потому что функционал и так был выключен. Поэтому можно сделать вывод о том, что алгоритм взаимодействия с пользовательскими файлами у ИИ-ассистента Gemini является ещё более запутанным, чем могло показаться на первый взгляд.
Реакция подписчиков Кевина Бэнкстона в социальных сетях была разной. Некоторые пользователи заявили, что крайне обеспокоены тем, что сервисы Google имеют возможность для обучения собственных технологий искусственного интеллекта без разрешения пользоваться файлами на компьютере клиентов. Другие же подписчики просто раскритиковали Кевина Бэнкстона, потому что он сам загрузил свою налоговую декларацию в облачный сервис Google Docs.
Ещё по теме:
- Apple выпустила новый рекламный ролик для Safari: «Браузер, который в самом деле приватный»
- Учёные смогли вживить в человека чип с ChatGPT
- Apple обучала свои ИИ-модели на YouTube-контенте без согласия пользователей
