Более 130 000 разговоров с ИИ оказались в открытом доступе на Archive.org

Пользователи не осознают, что данные могут попасть в руки злоумышленников

2 мин.
Более 130 000 разговоров с ИИ оказались в открытом доступе на Archive.org

Исследователь под псевдонимом dead1nfluence обнаружил, что свыше 130 000 пользовательских чатов с ИИ — включая ChatGPT, Claude, Grok, Mistral, Qwen и Copilot — оказались заархивированы и доступны на сайте «Интернет архива». Многие из этих бесед содержат чувствительную информацию и, как выяснилось, могут быть найдены в открытом доступе, если пользователи включили функцию общего доступа к чату и не осознали её последствия.

Ранее стало известно, что компания Google индексировала публичные ссылки на диалоги с ChatGPT, если пользователь включал возможность делиться ссылкой, не осознавая, что таким образом делает переписку доступной для всех. При этом OpenAI не предприняла шагов для предотвращения индексации. Позже компания удалила такие ссылки и отключила возможность их поиска.

Тем не менее, чаты с другими ИИ-моделями, например Grok и Copilot, до сих пор находятся в архиве. Dead1nfluence рассказал изданию 404 Media, что в некоторых из этих бесед удалось найти API-ключи, фрагменты служебных документов и другую информацию, потенциально полезную для хакеров.

«Хотя пользователям действительно пишется, что ссылки являются публичными, многие из них не ожидают, что они могут попасть в поисковую выдачу или архивироваться. Для атакующих это может быть ценнейший источник данных», — написал исследователь в своём блоге.

Он утверждает, что теперь может по ключевым словам находить, какие компании допустили утечку конфиденциальных данных через своих сотрудников.

Журналисты проверили часть обнаруженных чатов и подтвердили, что ссылки действительно активны. Среди опубликованного — фрагменты договоров, коммерческие документы, а также личные переписки, включая обсуждение отношений.

Большинство компаний, чьи ИИ-сервисы оказались затронуты, не ответили на запросы о комментариях. Представитель Anthropic (создателя Claude) заявил:

«Мы не публикуем директории с чатами и не передаём их поисковым системам. Однако если пользователь сам делится ссылкой, она становится общедоступной и может быть доступна третьим лицам».

OpenAI уже отключила спорную функцию в ChatGPT. Как пояснил глава отдела информационной безопасности компании, это был «недолгий эксперимент», требовавший от пользователя явного включения общего доступа и разрешения на индексацию в поиске.

Исследование демонстрирует, что даже при наличии предупреждений пользователи часто не понимают, как именно работает функция публикации общих ссылок. А это, как мы (вероятно) убедимся, создаёт реальную угрозу конфиденциальности и безопасности — как для частных лиц, так и для бизнеса.


Ещё по теме:

Мы в Telegram, на Дзен, в Google News и YouTube



ePN