17-летняя девушка из Нью-Джерси подала иск против разработчика нейросетевого приложения Clothoff, которое позволяет превращать обычные фотографии людей в фейковые обнажённые снимки. Согласно материалам дела, одноклассник истицы использовал её фото в купальнике, опубликованное в соцсетях в 14 лет, чтобы создать и распространить среди школьников реалистичное изображение, на котором она была полностью обнажена.
Clothoff использует нейросети для генерации убедительных изображений на основе обычных фотографий: пользователь загружает снимок, после чего сервис формирует сгенерированный контент, удаляя элементы одежды. Проблема в том, что получившиеся изображения могут быть использованы для шантажа, травли или вмешательства в частную жизнь.
Иск подали от имени потерпевшей профессор Йельской школы права вместе со студентами и адвокатом. В качестве ответчиков названы компания AI/Robotics Venture Strategy 3 Ltd., зарегистрированная на Британских Виргинских островах и якобы управляемая из Беларуси, а также мессенджер Telegram, через ботов которого предоставлялся автоматический доступ к Clothoff.
Девушка утверждает, что её фотографии были использованы без согласия: дипфейк-снимки быстро распространились в интернете, вызвав у неё психологическую травму и испортив репутацию. По словам адвокатов, разработчики приложения несут ответственность за ущерб, нанесённый несовершеннолетнему подростку.
Потерпевшая подчёркивает, что с тех пор живёт в постоянном страхе, что поддельные изображения всплывут в сети, будут использованы для тренировки алгоритмов или распространятся ещё шире. В иске содержится требование уничтожить все «обнажённые» изображения, созданные без согласия владельцев оригинальных фото, запретить их использование для обучения нейросетей и заблокировать работу Clothoff на территории США.
Представители Clothoff утверждают, что платформа «не может обрабатывать изображения несовершеннолетних» и автоматически блокирует аккаунты, пытающиеся сделать это. В официальном ответе представители компании заявили, что не хранят никаких данных. Однако адвокаты истицы настаивают, что Clothoff создаёт материалы, квалифицируемые как детская порнография, и нарушает федеральное и региональное законодательство.
Подросток, который якобы использовал приложение для создания фейков, в текущий иск не включён — против него подано отдельное судебное разбирательство. Адвокаты мальчика ответили на обвинения следующим образом:
«Ответчик не обладает достаточными знаниями или информацией для формирования мнения относительно правдивости предъявленных обвинений».
Проблема массового распространения «обнажающих» приложений стала настоящей эпидемией. По данным исследовательской компании Graphika, только Clothoff посетили более 3 миллионов человек за последний месяц. Всего в сети насчитывается свыше сотни подобных сервисов, многие из которых активно рекламируются в социальных сетях.
Случай стал новым (и довольно пугающим) примером того, как технологии генерации изображений могут быть нацелены против обычных людей — особенно подростков. Эксперты отмечают, что существующий правовой механизм нередко не успевает за развитием ИИ, а борьба с дипфейк-контентом всё ещё сталкивается с серьёзными юридическими и этическими вызовами.
Многие правозащитники призывают ужесточать регулирование подобных приложений, чтобы защитить несовершеннолетних от кибербуллинга и вмешательства в частную жизнь в цифровую эпоху. Дело этого подростка против Clothoff может стать прецедентом для будущих разбирательств, а также подтолкнуть разработчиков и платформы к внедрению более строгих мер контроля.
Ещё по теме:
- Apple получила эксклюзивные права на трансляцию Формулы 1 в США на пять лет
- Производительность чипа M5 в iPad Pro и MacBook Pro почти не отличается
- Дата-центры для ИИ в Шотландии расходуют воду, эквивалентную 27 миллионам бутылок в год
