Китайское управление по вопросам цифрового пространства осуществляет проверку разработанных технологическими корпорациями и стартапами моделей искусственного интеллекта на соответствие основным социалистическим ценностям, сообщает издание Financial Times.
Журналисты рассказали, ссылаясь на собственные источники в местных компаниях, что китайский регулятор обязал крупные китайские технологические корпорации, среди которых ByteDance, Alibaba, Moonshot и 01.AI, отправлять свои модели искусственного интеллекта на обязательное тестирование. В ходе тестирования нейросети должны будут ответить на большое количество вопросов, многие из которых связаны с политикой и идеологией, поддерживаемой в Китайской Народной Республике.
Аналитики также отмечают, что соответствующие проверки осуществляются в рамках правил для нейросетей, представленных китайским регуляторам около года назад. В этом регламенте указывается, что официальный Пекин выражает полную поддержку инноваций и популяризации технологий, но контент, создаваемый нейросетями, «не должен противоречить стандартам общественной морали, не иметь призывов к подрыву государственной власти, свержению социалистической системы, подстрекательству к разделению государства и подрыву национального единства».
Журналисты также указывают на то, что в рамках подобных проверок нейросети должны дать «приемлемые» ответы по различным историческим событиям, связанным с Китаем, а также с текущей политикой страны.
Насколько стало известно журналистам, далеко не всем китайским большим языковым моделям, которые подверглись подобному тестированию, удалось с первого раза пройти эту проверку. В той ситуации, если искусственный интеллект проваливал тестирование, его разработчики вносили корректировки, обучая технологию на новых наборах данных.
Также известно, что с ответами лучше всего справился за последний год чат-бот, разработанный компанией ByteDance, степень соответствия китайским нормам безопасности которого составила 66,4%. Неплохие оценки при проведении тестирования также показали чат-боты Minimax ABAB 6.0 (60,2%) и Sensetime Sensechat (41,6%). Неудовлетворительные баллы получили нейросеть Ernie 3.5 от компании Baidu (показатель 31,9%) и Qwen-Max от компании Alibaba — 23,9%. Полностью провалил тест GPT-4.0 компании OpenAI — 7,1%.
Ещё по теме: