В минувшие выходные пользователи Reddit обнаружили, что конфиденциальные чаты с ИИ-помощником Claude от компании Anthropic стали доступны через обычный поиск Google. Этот момент снова поднял вопросы о безопасности данных в эпоху искусственного интеллекта и подчёркнул важность ответственного подхода к приватности.
Проблема возникла из-за функции «Поделиться», которая позволяет пользователям Claude обмениваться своими беседами с другими. Несмотря на заявления Anthropic, что доступ к таким чатам возможен только по прямой ссылке, выяснилось, что Google всё равно проиндексировал эти страницы. Это означает, что любой желающий мог найти и прочитать сотни приватных диалогов, используя простые поисковые запросы, например, site:claude.ai/share.
Среди обнаруженных бесед были как курьёзные запросы, так и крайне чувствительная информация. Пользователи делились расшифровками личных разговоров, юристы спрашивали совета о нарушении этических норм, а некоторые даже писали ключи от своих криптокошельков, запрашивая помощь в их создании. Масштаб утечки оказался значительным: BBC News сообщает о более чем 200 беседах, найденных на 25 страницах поисковой выдачи.
Впрочем, реакция самой Anthropic на инцидент, тоже вызвала критику. Компания попыталась оправдаться, заявив, что «когда кто-то делится беседой, он делает этот контент общедоступным, и, как и любой другой публичный веб-контент, он может быть заархивирован сторонними сервисами». Однако эксперты и пользователи сочли это объяснение неудовлетворительным, поскольку оно противоречит ожиданиям пользователей относительно приватности.
Журналисты Wired, изучив образцы проиндексированных страниц Claude, обнаружили, что на них отсутствовал метатег «noindex». Этот тег используется для указания поисковым системам не индексировать определённые страницы. Отсутствие тега указывает на серьёзную недоработку в системе безопасности Anthropic, которую компания больше не прокомментировала.
Этот случай произошёл вскоре после другой новости о Claude Cowork, который смог сбежать из «песочницы» на Mac и получить полный доступ ко всем файлам пользователя. Оба инцидента ещё раз подчеркнули растущие риски, связанные с использованием ИИ-сервисов, и поставили под сомнение надёжность их защиты данных.
В качестве меры предосторожности пользователям Claude рекомендуется удалить все ранее опубликованные чаты через настройки приватности и воздержаться от использования функции «Поделиться», поскольку она, по сути, является «безопасностью через неясность» (security by obscurity), что не является надёжным методом защиты.
На фоне этих событий подход Apple к приватности в своих ИИ-сервисах (Apple Intelligence и новая Siri), выглядит особенно выигрышно. Apple использует трёхуровневую систему защиты:
- Обработка данных по возможности происходит непосредственно на устройстве.
- В случае необходимости используются собственные серверы Apple Private Cloud Compute (PCC).
- В крайнем случае применяются модели Gemini с эквивалентными защитными механизмами PCC.
Сложная архитектура PCC гарантирует, что никакие данные не доступны ни Apple, ни Google, и не сохраняются. Купертиновцы разработали систему таким образом, чтобы эти заявления могли быть независимо проверены исследователями безопасности, что лишь показывает пользователям высокий стандарт доверия и приватности.
