Откровенные изображения с Тейлор Свифт, сгенерированные с помощью искусственного интеллекта, распространялись в X (бывший Twitter) в течение последних дней, что стало последним примером фейковой порнографии, сгенерированной нейросетью, и проблемы, связанной с предотвращением её распространения.

Один из самых ярких примеров собрал более 45 миллионов просмотров, 24 000 репостов и сотни тысяч лайков и добавлений в закладки, после чего аккаунт верифицированного пользователя, поделившегося изображениями, был заблокирован за нарушение политики платформы. Пост провисел около 17 часов, прежде чем его удалили.

Однако когда пользователи начали обсуждать вирусный контент, изображения стали распространяться и репоститься на других аккаунтах ещё сильнее. Многие из них до сих пор не удалены, и кроме того, появилось множество новых графических фейков. В некоторых регионах термин «Taylor Swift AI» стал трендовой темой, что способствовало распространению изображений среди ещё более широкой аудитории.

В материале издания 404 Media говорится, что изображения могли появиться в одной из групп в Telegram, где пользователи делятся откровенными изображениями женщин, сгенерированными искусственным интеллектом, часто сделанными с помощью Microsoft Designer.

Политика X в отношении сгенерированных и манипулируемых медиаматериалов и обнаженной натуры без согласия прямо запрещает размещение такого рода контента на платформе.

Поклонники Свифт раскритиковали соцсеть за то, что многие из постов оставались в публичном доступе достаточно долго. Они завалили публикации с откровенными изображениями хэштегами и другими сообщениями, в которых рекламировали выступления Свифт, чтобы скрыть фейки.

Этот инцидент говорит о вполне реальной проблеме борьбы с дипфейками и создаваемыми ИИ изображениями реальных людей. Некоторые генераторы изображений имеют ограничения препятствующие созданию обнажённых, порнографических и фотореалистичных изображений знаменитостей, но некоторые другие не предоставляют таких возможностей в явном виде. Ответственность за предотвращение распространения фейковых изображений часто возлагается на социальные сети, что может быть трудно осуществить при самых благоприятных обстоятельствах, и ещё сложнее для такой компании, как X, которая сократила множество модераторов.

И, конечно, нужно понимать: фейковых фотографий и видеороликов в сети будет становиться всё больше.

Ещё по теме: