Городской прокурор Сан-Франциско Дэвид Чиу направил официальные предписания компаниям Apple и Google с требованием немедленно удалить из своих магазинов приложений 13 программ, позволяющих создавать дипфейк-изображения обнажённых людей без их согласия. Как сообщает WIRED, в письмах утверждается, что техногиганты «пособничают» распространению откровенных дипфейков и должны разорвать деловые отношения с разработчиками таких приложений.
По словам прокурора, Apple и Google, вероятно, заработали «миллионы долларов» на комиссиях от внутриприложенных покупок в этих приложениях.
«Генерация интимных изображений без согласия – это незаконно, вредно и абсолютно неприемлемо», – заявил Чиу.
Он подчеркнул, что компании обязаны улучшить процессы модерации, чтобы подобные приложения не попадали в магазины изначально. В предписаниях ссылаются на законы Калифорнии, запрещающие поддержку сервисов, создающих дипфейк-порнографию.
Исследователи неоднократно находили в App Store и Google Play приложения, позволяющие генерировать сексуализированные изображения с помощью ИИ, причём некоторые из них имели рейтинг, допускающий использование детьми. Представитель Google Дэн Джексон сообщил, что компания уже удалила «сотни» приложений с функциями «раздевания» за нарушение политик, включая пять Android-программ, указанных в предписании. Apple от комментариев отказалась.
За последние пять лет индустрия дипфейк-технологий для «раздевания» стала чрезвычайно прибыльной. Для создания таких изображений часто достаточно одной фотографии и пары кликов, а результаты становятся всё более реалистичными благодаря развитию генеративного ИИ. По данным Tech Transparency Project, около 100 подобных приложений в магазинах Apple и Google были загружены в совокупности около 480 миллионов раз и могли принести разработчикам около $120 млн дохода.
