История Бриз Лю началась с обычного телефонного звонка, который изменил всю её жизнь. В апреле 2020 года однокурсник сообщил ей, что интимное видео с её участием, снятое без её согласия в возрасте 17 лет, было загружено на PornHub под заголовком «Корейская девушка-подросток». Это видео не только распространилось по сети, но и стало основой для создания дипфейков, которые продолжили размножаться на различных порносайтах. Последствия для Лю оказались катастрофическими: она признаётся, что боролась с мыслями о том, чтобы наложить на себя руки и даже предприняла одну попытку.
Удаление около 400 непристойных изображений и видео потребовало многолетних усилий и работы с международными платформами. За это время Лю перешла от карьеры венчурного капиталиста к созданию собственной компании под названием Alecto AI, которая помогает жертвам цифрового насилия находить и удалять непристойную информацию. Однако, когда дело дошло до удаления контента с её собственным участием, девушка столкнулась с молчанием и задержками со стороны одного из крупнейших хранителей интернета — компанией Microsoft.
Медленная реакция
Расследование проведённое изданием WIRED, а также интервью с французской организацией помощи жертвам и другими активистами, работающими с Лю, показывает, что Microsoft не удалила около 150 интимных изображений Лю, хранящихся на её облачном сервисе Azure, несмотря на многочисленные просьбы. Другие компании убрали сотни изображений, но Microsoft начала действовать только после того, как Лю и её коллега лично обратились к старшему члену команды по безопасности компании на конференции по модерации контента.
Этот затяжной процесс, продлившийся восемь месяцев, стал яркой иллюстрацией трудностей, с которыми сталкиваются жертвы цифрового насилия, пытаясь удалить контент из сети. История Лю также подчёркивает пробел в защите жертв, когда их возраст на изображениях вызывает споры или его трудно определить. Такая проблема может стать ещё более актуальной с распространением приложений для создания ню-контента среди старшеклассников.
«Обычным людям практически невозможно ориентироваться в этой сложной системе и контролировать ущерб», — говорит Лю. «Мы сталкиваемся с крайне сломанной системой, и это глобальная проблема», — добавляет она.
Ответ Microsoft
Кортни Грегуар, главный эксперт по цифровой безопасности в Microsoft, заявила, что компания извлекла уроки из недопонимания в случае Лю и не хочет, чтобы кто-либо другой проходил через подобный опыт.
«Такой контент является приоритетной областью, где мы стремимся действовать в течение 12 часов», — отметила Грегуар.
Однако для Лю этот процесс занял целых восемь месяцев.
Поиск помощи
После обнаружения первого видео в 2020 году Лю обратилась в полицию Беркли, но детективы не смогли идентифицировать лиц, ответственных за загрузку контента, из-за ограниченной информации, сохранённой сайтами, и зарубежного характера аккаунтов. Она даже связалась с некоммерческой организацией Cyber Civil Rights Initiative, однако та не смогла помочь с запросами на удаление. Причина оказалась достаточно неоднозначной: так как Лю потенциально выглядела младше 18 лет на изображениях, организация ответила, что законодательство запрещает ей просматривать подобные изображения несовершеннолетних.
Лю чувствовала себя в ловушке между крупными компаниями, которые не могли помочь.
«Какая разница, если мне было 17 или всего два дня назад исполнилось 18? Ущерб для меня одинаковый. Это невероятно расстраивает», — прассказала девушка.
Прогресс благодаря Point de Contact
В конце 2023 года Лю и её сооснователь Alecto AI Андреа Пауэлл обратились за помощью к исследователю из финансируемой правительством Великобритании горячей линии для жертв. Исследователь обнаружил 832 ссылки, предположительно содержащие интимные изображения с девушкой.
«Я даже не могла смотреть на файл, потому что это было слишком», — вспоминает Лю.
Её друг скачал таблицу с URL-адресами, а сама она начала звонить своему терапевту.
Организация Point de Contact, французская группа помощи жертвам, взялась за дело Лю, когда, как казалось, все уже отказались. К середине декабря они начали отправлять юридические требования на удаление контента хостинг-провайдерам. И некоторый прогресс был достигнут: из 395 найденных непристойных изображений большинство было удалено.
Однако Microsoft продолжала игнорировать просьбы, требуя дополнительную информацию, которую Лю предоставила, включая копию паспорта. Несмотря на это, компания продолжала бездействовать.
Прорыв на конференции TrustCon
Только после того, как друг Лю лично встретился с Лиз Томас, директором по цифровой безопасности Microsoft, на конференции TrustCon, ситуация начала меняться.
После этого случая Microsoft ускорила процесс, и 142 URL-адреса с изображениями Лю начали исчезать из «всемирной паутины».
Глобальная проблема
История Лю показывает сложности, с которыми сталкиваются жертвы цифрового насилия. Отсутствие согласованности в политике и процессах технологических компаний, будь то Google или Microsoft, затрудняет быстрое удаление контента. По словам Эммы Пикеринг, из организации Refuge, компании реагируют по своему усмотрению, и их ответ часто оказывается крайне неэффективным.
Microsoft, по словам Грегуар, стремится улучшить процессы и отношения с группами помощи жертвам. Однако для Лю борьба всё ещё не закончена. Некоторые видео и изображения по-прежнему доступны на «бесплатных порносайтах», а инвесторы остаются скептически настроенными к её проекту Alecto AI.
Надежда на будущее
В декабре 2024 года Лю увидела проблеск надежды: её предложение в Конгресс США о необходимости удаления нежелательных интимных изображений в течение 48 часов получило поддержку более 20 законодателей. Законопроект, предусматривающий штрафы до $50 000 за нарушение, был принят Сенатом, несмотря на опасения правозащитных организаций о чрезмерной цензуре. Даже Microsoft поддержала эту инициативу.
Для Лю это шаг вперёд, но её борьба напоминает о необходимости глобальных изменений в подходе технологических гигантов.
Ещё по теме:
- Как Apple создавала свой первый модем C1 для iPhone 16e
- Пластический хирург из США попал под суд за то, что не сказал пациентам, как хакеры украли их обнажённые фото
- Российские банки осваивают новый инструмент для анализа криптовалют
