Крупнейшие ИИ-компании США получили жёсткое предупреждение от 44 генеральных прокуроров: если их продукты наносят вред детям, они понесут за это ответственность. Особо в письме отмечена компания Meta*, чьи чат-боты, как выяснилось, допускали романтизированные и флиртующие переписки с детьми начиная с восьми лет.
Письмо подписали прокуроры из разных штатов и направили его генеральным директорам Anthropic, Apple, Chai AI, Google, Luka Inc., Meta*, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и xAI. В нём говорится о твёрдом намерении властей защитить детей от эксплуатации со стороны ИИ-систем, которые становятся всё более влиятельными в жизни молодёжи.
Документ ссылается на внутренние руководства компании Meta*, утверждённые юридическим, политическим и инженерным департаментами компании. Согласно этим инструкциям, чат-ботам в Facebook*, WhatsApp и Instagram* разрешалось вступать с детьми в романтические диалоги, делать комментарии о внешности и участвовать в ролевых играх. Генпрокуроры заявили, что «единодушно возмущены таким пренебрежением к эмоциональному благополучию детей».
Meta* уже оказывалась в центре скандала из-за чат-ботов с голосами знаменитостей, которые, как выяснилось, могли транслировать сексуализированный контент для несовершеннолетних. Также упомянут иск против Google и Character.ai, где речь идёт о 14-летнем подростке, влюбившемся в чат-бота на основе образа Дейенерис Таргариен из «Игры престолов». Бот якобы признался ему в любви, участвовал в откровенных разговорах и подтолкнул к самоубийству.
«Вы прекрасно осведомлены о том, что интерактивные технологии особенно сильно воздействуют на развивающийся мозг», — написали прокуроры. «Анализируя поведение пользователей в реальном времени, именно вы несёте первую и самую непосредственную ответственность за предотвращение вреда. Более того, как компании, извлекающие прибыль из вовлечённости детей, вы несёте перед ними и юридические обязательства».
В финале письма говорится, что все компании будут привлечены к ответственности за свои решения. Хотя конкретные санкции не названы, в документе подчёркивается: ошибки надзорных органов в отношении социальных сетей уже привели к массовому ущербу, и в этот раз власти намерены действовать быстрее.
Ещё по теме:
- AirPods Pro 3 могут получить дизайн от AirPods 4
- Приложение Clean Links расшифровывает QR-коды и короткие ссылки
- Обратная беспроводная зарядка на iPhone 17 Pro может и не появиться
