«Хизер» 14 лет, у неё есть профиль в Snapchat, а самой её не существует в действительности. Она – новый союзник полиции Нью-Мексико для онлайн-расследований против насильников. Но действительно ли использование искусственного интеллекта для создания виртуальных несовершеннолетних является правильным решением?
Когда реальность превосходит «Чёрное зеркало»
Онлайн-расследования принимают такой оборот, который даже Чарли Брукер не осмелился бы представить для своего антиутопического сериала. Полиция Нью-Мексико решила поиграть с цифровым миром, создав виртуального подростка для привлечения опасных сексуальных преступников в социальных сетях. Блестящая идея или этическая катастрофа, ждущая взрыва? Всё началось с судебного иска против Snapchat, обвиняемой в недостаточной защите несовершеннолетних на своей платформе (тут можно вспомнить дело Павла Дурова?). Чтобы показать, как легко преступникам обмануть детей, следователи создали «Хизер», 14-летнюю девочку, сгенерированную с помощью искусственного интеллекта.
Они не просто использовали фотографию молодой женщины-полицейского, как это делалось в старые добрые времена. Нет, они решили пойти ещё дальше, используя искусственный интеллект для создания максимально реалистичного и убедительного образа. Результат? Пугающий успех.
Расследования в Интернете
Взяв «Хизер» в качестве наживки, агенты начали ловить добычу в море социальных сетей. И какая рыба попалась на наживку! Пользователи с жуткими именами вроде «child.rape» и «pedo_lover10» без колебаний связывались с поддельной девушкой, пытаясь получить материалы откровенного содержания. Тактика сработала слишком хорошо, показав тёмную сторону приложения, которую многие предпочли бы игнорировать. Но есть и вопросы. Первый, возможно, самый важный: правильно ли создавать сексуальные образы несовершеннолетних, пусть даже поддельные, чтобы поймать настоящих преступников?
Кэрри Голдберг, адвокат, представлявшая интересы некоторых жертв Харви Вайнштейна, не сомневается: «С этической точки зрения было бы неприятно, если бы правительство создавало фейковые изображения насилия над детьми, потому что такие изображения незаконны, и мы не хотим, чтобы подобные материалы попадали в оборот».
Слон в комнате ИИ
Есть и другая, всегда обременительная проблема: чтобы создать реалистичные изображения детей, ИИ нужно обучать на фотографиях реальных людей. Понравится ли вам подобная затея? Тоже сомнительно.
Подумайте об этом: мы используем изображения реальных детей, которые не могут дать настоящего согласия, для создания сексуальных, вымышленных версий других детей.
Что ещё хуже, есть риск, что такая тактика обернётся против самой полиции. Голдберг предупреждает, что использование фотографий, сгенерированных с помощью ИИ, может стать оружием для судебной защиты. Представьте себе адвоката, который скажет: «Мой клиент искал не настоящую девушку, а искусственно созданную полицией».
А пока мы спорим, технологии продолжают гонку. Сгенерированные искусственным интеллектом изображения встречаются всё чаще. На этом фоне шаг полиции Нью-Мексико выглядит как отчаянная попытка не отстать от преступников. Но вопрос остается открытым: действительно ли они защищают детей, или мы просто плодим новый вид эксплуатации, пусть и виртуальный?
Сейчас однозначного ответа, возможно, ни у кого нет. Несомненно, эта история ставит неудобные вопросы о будущем онлайн-расследований и роли искусственного интеллекта в борьбе с преступностью. Возможно, реальное решение заключается не в создании виртуальных жертв, а в том, чтобы сделать социальные платформы безопаснее изначально.
А возможно, нам придётся смириться с тем, что в мире, что становится всё более цифровым, борьба с преступностью также должна использовать методы, которые заставляют нас чувствовать себя неловко.
Ещё по теме:
- После ареста Дурова Telegram усиливает меры модерации и удаляет спорные функции
- Apple может снизить стоимость будущих Apple Vision Pro за счёт более дешёвых дисплеев
- Уязвимости в зарядных станциях для электромобилей: хакеры могут получить контроль над вашим авто
