Китайские технологические гиганты и стартапы, работающие в сфере искусственного интеллекта, подверглись новой волне государственных проверок. По данным CNBC и Financial Times, Администрация киберпространства Китая (CAC) начала масштабное тестирование больших языковых моделей (LLM) на предмет их соответствия «ключевым социалистическим ценностям».
Под прицел регулятора попали как крупнейшие игроки рынка – ByteDance (владелец TikTok) и Alibaba, – так и амбициозные стартапы, включая Moonshot и 01.AI. Цель проверки — убедиться, что алгоритмы не генерируют контент, противоречащий официальной идеологии Пекина.
Процесс проверки напоминает строгий экзамен. Чиновники CAC тестируют модели, задавая им вопросы на политически чувствительные темы, включая оценку деятельности председателя КНР Си Цзиньпина и события на площади Тяньаньмэнь. Помимо ответов на конкретные запросы, регуляторы тщательно изучают массивы данных, на которых обучались нейросети, и протоколы безопасности компаний.
Источники в отрасли сообщают о сложностях прохождения этой аттестации. Один из разработчиков в Ханчжоу рассказал, что их модель провалила первый раунд тестов по неясным причинам. Пройти проверку удалось только после месяцев «угадывания и настройки» в алгоритмах.
Ключевой проблемой для китайских разработчиков остаётся тот факт, что большинство современных LLM обучаются преимущественно на англоязычных данных, которые могут содержать взгляды, отличные от партийной линии КНР. Это вынуждает компании внедрять сложные системы фильтрации, создавая огромные базы данных запрещённых ключевых слов и фраз.
В результате многие популярные в Китае чат-боты либо отказываются отвечать на острые вопросы, либо выдают строго регламентированные формулировки. Например, темы, касающиеся политических протестов или критики власти, часто полностью блокируются.
Текущая ситуация подсвечивает главную дилемму китайской технологической политики: стремление стать мировым лидером в области ИИ сталкивается с необходимостью жёсткого идеологического контроля. Несмотря на то, что Китай лидирует по количеству патентов в сфере генеративного ИИ, рамки цензуры и санкционные ограничения США на доступ к передовому оборудованию создают серьёзные препятствия для создания сервисов, способных напрямую конкурировать с ChatGPT на глобальном уровне.
Эксперты отмечают, что Пекин пытается найти тонкий баланс: не задушить инновации, но при этом гарантировать, что «цифровой разум» останется лояльным идеям социализма.
Ещё по теме:
- Как Android научился работать с AirDrop благодаря давлению Евросоюза
- Музыкальная индустрия делает ставку на ИИ: мейджоры заключили беспрецедентную сделку
- iPhone стал самым популярным брендом смартфонов в России
