Организация Tech Transparency Project (TTP) опубликовала отчёт, согласно которому приложения для генерации изображений обнажённого тела (так называемые «nudify»-сервисы) широко доступны и легко находятся в App Store и Google Play (примеры с картинками там же).
Исследование поднимает серьёзные вопросы к политике модерации техногигантов, которые получают прямую финансовую выгоду от распространения подобного софта.
От ручного фотошопа к мгновенной генерации
Совсем недавно в центре скандала с генерацией непристойных изображений оказалась нейросеть Grok, но сама проблема существует давно. Традиционные графические редакторы годами позволяли создавать подобный контент, однако раньше это требовало навыков и времени.
За последние пару лет ситуация кардинально изменилась: барьер входа попросту исчез. Теперь с помощью генеративного ИИ создать реалистичный фейк можно за считаные секунды. Разработчики мобильного софта быстро уловили тренд и начали массово выпускать приложения, эксплуатирующие эти возможности, причём некоторые из них открыто рекламируют функции «раздевания» людей на фото.
Цена «безопасности»
Расцвет подобных сервисов происходил на фоне громких антимонопольных разбирательств Apple с Epic Games и другими разработчиками. В суде купертиновцы настаивали, что их комиссия в размере до 30% необходима именно для поддержания безопасности App Store через сложные системы автоматической и ручной проверки.
Хотя Apple действительно борется с мошенничеством, целые категории сомнительных приложений периодически просачиваются сквозь фильтры модерации.
В отчёте TTP подробно описывается, насколько легко найти приложения для «раздевания» в официальных магазинах. Статистика, предоставленная аналитической компанией AppMagic, впечатляет:
- Выявленные приложения суммарно скачали более 705 миллионов раз.
- Выручка от них составила 117 миллионов долларов.
Поскольку Apple и Google взимают комиссию с транзакций, они фактически получают непосредственную прибыль от деятельности, нарушающей их же собственные правила. Например, Google Play прямо запрещает контент с изображением сексуализированной наготы, а также приложения, которые «унижают или объективируют людей», включая софт для «раздевания» или «просвечивания» одежды, даже если он помечен как шуточный.
Тем не менее, простые поисковые запросы вроде «nudify» (обнажить) или «undress» (раздеть) по-прежнему выдают десятки релевантных приложений, некоторые из которых даже закупают рекламу по этим ключевым словам.
Как это работает
Исследователи разделили найденный софт на две категории:
- Генераторы по запросу: ИИ создаёт видео или фото на основе текстового описания.
- Face Swap (замена лиц): ИИ накладывает лицо конкретного человека на чужое тело.
Для проверки исследователи использовали сгенерированные изображения несуществующих женщин и тестировали только бесплатные функции. Результат оказался занимательным: запросы на создание непристойного контента выполнили 55 приложений на Android и 47 на iOS. При этом как минимум одно из таких приложений в App Store имело возрастной рейтинг «9+».
В отчёте приводится пример работы одного из сервисов. В iOS-версии приложение заблокировало прямой запрос «снять верх» (выдав предупреждение о деликатном контенте), но без проблем сгенерировало изображение той же «женщины», танцующей в бикини, по второму запросу. Более того, на стартовых экранах версий для обеих платформ пользователям предлагались готовые шаблоны действий, такие как «сорвать одежду» (tear clothes), «танец с тряской грудью» (chest shake dance) и «наклониться» (bend over).
Авторы доклада заключают: найденные примеры — лишь верхушка айсберга, что свидетельствует о неспособности ИТ-гигантов эффективно контролировать свои платформы и обеспечивать соблюдение собственных этических норм.
