Появление генеративных ИИ-моделей, создающих видео по запросам, дало пользователям инструменты, позволяющие создавать короткие ролики на основе одной фотографии и текстового описания. Отсутствие жёстких ограничений на применение этих технологий привело к тому, что интернет наводнили интимные видеоролики, созданные без согласия изображённых на них людей.
В ходе расследования издания 404 Media выяснилось, что принципы, ранее использовавшиеся для генерации изображений, теперь распространяются и на видео, давая возможность буквально за считаные секунды создать ролик, имитирующий участие человека в откровенных сценах.
Большая часть подобных сервисов разработана компаниями из Китая. Среди них Pixverse (принадлежащий AIsphere), Hailuo (разработанный Minimax) и KlingAI (проект Kuaishou). Эти инструменты применяются для создания видео, в которых знаменитости якобы раздеваются или совершают действия интимного характера.
Злоумышленники берут за основу снимки из социальных сетей, фотографий с мероприятий или других публичных источников. В ряде случаев сначала создаётся поддельное изображение, а затем оно анимируется, превращаясь в видеоролик.
Методы обхода встроенных ограничений напоминают те, что ранее при создании откровенных изображений в Microsoft Designer.
Пользователи формулируют запросы так, чтобы избежать блокировок, заменяя запрещённые термины на более нейтральные описания. Такая схема применялась и в начале 2024 года, когда в сети распространились скандальные поддельные снимки Тейлор Свифт.
Среди подобных сервисов особенно выделяется Pixverse, основанный бывшим руководителем отдела визуальных технологий ByteDance Ваном Чанху. Эта платформа позволяет генерировать видео, где женщины раздеваются перед камерой.
У других сервисов своя специфика. К примеру, Hailuo создаёт ролики с обнажёнными танцами, а KlingAI анимирует поддельные изображения, превращая их в видео с порнографическими элементами. После шквала жалоб разработчики KlingAI были вынуждены ужесточить ограничения, что значительно осложнило использование их технологии для создания контента подобного рода.
Группы, создающие подобные видео, постоянно перемещаются между разными платформами, находя слабые места в алгоритмах или осваивая новые инструменты без встроенных защитных механизмов. В последнее время внимание пользователей переключилось на ИИ-генератор Pika, который позволяет создавать интимные видеоролики. Интересно, что этот сервис по-прежнему доступен в магазинах приложений Apple и Google, несмотря на очевидные нарушения правил этих компаний.
Ситуация осложняется распространением открытых ИИ-моделей. Например, HunyuanVideo, разработанный Tencent, был быстро модифицирован пользователями для создания контента порнографического характера.
На платформе Civitai уже представлены модели, ориентированные на генерацию подобных видео с участием известных актрис, стримеров и блогеров. Похожая история произошла и с Wan 2.1 от Alibaba – менее чем через сутки после официального релиза эта технология начала активно использоваться для создания откровенных роликов.
Хотя разработчики заявляют о запрете использования их решений для незаконных целей, на практике они не принимают действенных мер для пресечения подобных нарушений.
При этом сенатор США Дик Дурбин продвигает законопроект DEFIANCE Act, который позволит пострадавшим привлекать к ответственности тех, кто создаёт несогласованные видео. Эксперты подчёркивают необходимость внедрения строгих фильтров, усиленного контроля и ограничения финансовых операций для сервисов, распространяющих неэтичный контент.
Ещё по теме:
- Индонезия смягчила запрет на продажу iPhone 16
- ИИ от Google и Amazon назвали книгу Гитлера «шедевром»: как алгоритмы запутались в оценках
- Слух: iPhone 17 Pro Max будет толще, чтобы вместить более ёмкий аккумулятор
