Власти Китая решительно взялись за регулирование отношений между людьми и искусственным интеллектом. Как выяснилось, в этом вопросе Пекин неожиданно нашёл общий язык с законодателями из Калифорнии и Нью-Йорка: и те, и другие считают, что людям пора перестать влюбляться в чат-ботов. Однако если американские политики лишь призывают разработчиков ИИ внедрять механизмы психологической защиты, то китайские регуляторы действуют жёстко и без компромиссов.
На этой неделе в КНР вступили в силу правила, которые прямо запрещают чат-ботам, предназначенным для общения и сопровождения, поощрять эмоциональную зависимость пользователей. Новые нормы также полностью исключают возможность виртуальных отношений с несовершеннолетними. Более того, компании теперь обязаны уведомлять контактное лицо пользователя в экстренной ситуации, если искусственный интеллект зафиксирует у человека эмоциональный кризис.
Меры направлены на то, чтобы не допустить массового ухода граждан в цифровые иллюзии, что, по мнению китайских властей, напрямую угрожает демографической политике страны.
«В Пекине не нравится идея, что значительная часть населения вступает в глубокие эмоциональные связи с чат-ботами. Это выводит людей с рынка брачных отношений, оказывает негативное психологическое воздействие, ведёт к зависимости и целому букету других социальных проблем», — пояснил Мэтт Шихан, аналитик Фонда Карнеги за международный мир, изучающий китайский ИИ.
Новые правила уже ударили по двум крупнейшим технологическим гигантам Китая – Alibaba и ByteDance (материнская компания TikTok). Обе недавно уведомили пользователей, что к 15 июля будут отключены некоторые функции их чат-ботов, связанные с эмуляцией романтических отношений. В ByteDance, в частности, идёт отказ от ряда возможностей в популярном приложении Doubao AI.
Мнение редакции
Китайский подход – не простой административный каприз, а логичное продолжение государственной политики, где демографическая статистика считается одним из главных приоритетов. Если в США спорят о ментальных рисках ИИ-собеседников, то в КНР влюблённость в чат-ботов рассматривают в первую очередь как прямую угрозу рождаемости.
Технологическим компаниям стоит внимательно следить за этим прецедентом. Если Китай – крупнейший рынок смартфонов и сервисов – начинает диктовать, что можно, а что нельзя делать чат-ботам в сфере чувств, это изменит правила игры для всей индустрии.
