Популярный сервис для эротических ролевых игр и генерации изображений допустил критическую ошибку в безопасности, открыв доступ к миллионам личных фотографий и видео, использовавшихся для создания дипфейков без согласия владельцев.
Платформа Secret Desires, специализирующаяся на эротических чат-ботах и создании ИИ-изображений, оставила в открытом доступе миллионы фотографий, загруженных пользователями. Базы данных содержали почти два миллиона файлов, среди которых множество снимков случайных людей, практически не оставлявших цифровых следов в интернете.
Утекшие данные наглядно демонстрируют масштаб использования приложений с функцией замены лиц (face-swapping) для создания неконсенсуального порнографического контента. Жертвами становятся все: от мировых знаменитостей до женщин, не являющихся публичными персонами. Помимо исходных фотографий, в открытом доступе оказались и результаты работы нейросети — в основном откровенно сексуальные и зачастую шокирующе графичные материалы. В отличие от приложений типа nudify, которые просто «раздевают» людей на фото, эти инструменты встраивают лица реальных людей в сгенерированные видеоролики с жёсткими сексуальными сценариями.
Secret Desires — это веб-платформа, напоминающая Character.ai или инструменты Meta* для создания аватаров. Она позволяет генерировать персонализированных чат-ботов и изображения на основе текстовых запросов. Ранее в этом году в рамках платных подписок (стоимостью от $7,99 до $19,99 в месяц) сервис предлагал функцию «замены лиц». Пользователи могли загружать фотографии реальных людей, чтобы помещать их в сексуально откровенные сцены, созданные искусственным интеллектом. Эти загруженные файлы, изученные изданием 404 Media, составляют значительную часть утечки, и судя по датам создания файлов, они могли находиться в открытом доступе на протяжении нескольких месяцев.
Примерно через час после того, как журналисты 404 Media связались с Secret Desires, чтобы сообщить об уязвимости и запросить комментарий, доступ к файлам был закрыт. Ни представители Secret Desires, ни Джек Симмонс, генеральный директор материнской компании Playhouse Media, не ответили на вопросы журналистов, в том числе о причинах отсутствия защиты и длительности утечки.
Платформа хранила ссылки на изображения и видео в незащищённых контейнерах Microsoft Azure Blob. Любой желающий мог получить доступ к XML-файлам со списком ссылок и просмотреть содержимое. Один из контейнеров с пометкой «удалённые изображения» хранил около 930 000 файлов, среди которых было множество фото узнаваемых знаменитостей и очень молодых девушек. Контейнер под названием faceswap (замена лиц) содержал 50 000 изображений, а папка Live Photos (короткие ИИ-видео) — 220 000 роликов. Стоит отметить, что файлы дублировалась или представляли собой разные ракурсы одного человека, но в общей сложности журналисты обнаружили почти 1,8 миллиона уникальных файлов.
Самое ужасное, что фотографии в наборах данных для замены лиц и среди удалённых изображений — это в подавляющем большинстве реальные снимки, не сгенерированные с помощью ИИ. На них запечатлены женщины: актрисы фильмов для взрослых, инфлюенсеры, знаменитости, а также обычные люди. В утечке оказалось множество фотографий, которые выглядят как личный контент из социальных сетей: селфи в спальнях или фото профилей из социальных сетей.
В папке для замены лиц журналисты обнаружили официальное фото выступающего государственного представителя, старые селфи, сделанные, судя по всему, много лет назад на телефоны-раскладушки и Blackberry, скриншоты из Snapchat, фото девушки с университетским дипломом и снимки из школьных альбомов. В названиях некоторых файлов содержались полные имена и фамилии. Эти и многие другие снимки находились рядом с кадрами из видео для взрослых и скриншотами актрис из фильмов. Присутствие этих фото в контейнере однозначно указывает на то, что кто-то загружал их в функцию замены лиц Secret Desires — вероятнее всего, для создания порнографического контента с их участием, так как именно на это ориентирована реклама платформы, и именно такой контент составляет большую часть утечки.
Некоторые лица из папки faceswap можно узнать в сгенерированных видео из папки live photos, которые практически полностью состоят из жёсткого порно, созданного с помощью ИИ. В этом контейнере также обнаружено множество видео, изображающих половые акты с участием людей, выглядящих крайне молодо.
В начале 2025 года Secret Desires удалила возможность замены лиц. Самая свежая дата в файлах этой категории — апрель 2025 года. Это совпадает с обсуждениями на Reddit того же периода, где пользователи жаловались на исчезновение функции.
«Я отменил подписку на Secret Desires, когда они убрали Faceswap. Знаете ли вы похожие сайты? Secret Desires был потрясающим для генерации изображений», — написал один из пользователей в теме по поиску альтернатив.
«Я участвовал в бета-тестировании, и замена лиц работала отлично. Я мог загружать фото жены, и получалось довольно похоже», — ответил другой. «Жаль, что они от этого избавились».
В Discord-канале Secret Desires пользователи заметили, что по состоянию на 3 ноября платформа всё ещё указывала «замену лиц» как платную функцию. Однако на момент написания статьи эта опция больше не значилась в списке преимуществ подписки. Secret Desires продолжает позиционировать себя как платформу для «пикантного общения», где можно создать собственного ИИ-компаньона. Сервис также предлагает режим клонирования голоса: пользователи могут загрузить аудиофайл с речью человека, чтобы использовать его голос в чатах.
На своём сайте Secret Desires заявляет об использовании сквозного шифрования и утверждает о надёжном хранении данных.
Текстовые запросы (промты), сохранившиеся в названиях некоторых файлов, также раскрывают характер использования сервиса. Несколько запросов в папке faceswap свидетельствовали о том, что «тайным желанием» пользователей была генерация изображений несовершеннолетних:
«17-летняя, ученица старшей школы, идеальное детальное невинное лицо», — гласили подписи рядом с именами молодых знаменитостей.
Из утечек других платформ «ИИ-подружек» известно, что это популярный запрос к подобным инструментам, хотя в правилах использования Secret Desires прямо запрещена генерация изображений несовершеннолетних.
Стоит также отметить, что Secret Desires размещает рекламу на YouTube, продвигая возможность создания сексуализированных версий реальных людей, которых вы встречаете в жизни.
«ИИ-девушки никогда не говорят "нет"», — говорит сгенерированная женщина в одном из YouTube Shorts сервиса. «Я могу выглядеть как твоя любимая знаменитость. Та девушка из спортзала. Твой персонаж мечты из аниме или кто угодно другой, о ком ты фантазируешь? Я могу сделать для тебя всё».
Большая часть рекламы Secret Desires на YouTube призывает отказаться от реальных отношений и приложений для знакомств в пользу ИИ-подружки.
«Что, если она может быть тем, кого ты воображал? Создай её стиль, личность и идеальную связь только для себя», — говорится в одном из роликов.
Другие объявления утверждают, что в идеальной реальности ваш психотерапевт, лучший друг и романтический партнёр могут быть искусственным интеллектом. Маркетинг Secret Desires в основном нацелен на молодых одиноких мужчин.
Многолетние исследования приложений для замены лиц, ИИ-компаньонов и платформ для эротических ролевых игр подтверждают реальный спрос на эти инструменты, а также риск их использования сталкерами и абьюзерами для создания изображений бывших партнёров, знакомых и случайных женщин. Такие сервисы доступны и рекламируются повсюду в социальных сетях, и даже дети легко находят их для создания материалов сексуального характера со своими одноклассниками.
Когда люди создают откровенные дипфейки других без их согласия, последствия для жертв часто бывают плачевными: это влияет на их карьеру, уверенность в себе, а в некоторых случаях и на физическую безопасность. Из-за того, что Secret Desires оставила эти данные открытыми и халатно отнеслась к информации пользователей, мы получили чёткое представление о том, как люди используют генеративный ИИ для воплощения сексуальных фантазий о женщинах из своего окружения. Но знают ли эти женщины об использовании их фото? Скорее всего нет.
Ещё по теме:
- Apple требует прозрачности: почему финансирующая иск компания вызвала волну беспокойства
- Бумеры, Поколение Х и миллениалы выбирают пароли лучше, чем зумеры
- Отменённые «Бандиты во времени» лидируют по числу номинаций на детскую «Эмми»
