США предложили Китаю создать механизм взаимного уведомления об инцидентах, связанных с искусственным интеллектом и способных затронуть национальную безопасность. Идею обсуждали в преддверии встречи президента США Дональда Трампа и председателя КНР Си Цзиньпина в Белом доме.
О переговорах сообщил министр финансов США Скотт Бессент. По его словам, стороны также рассматривали запуск отдельного американо-китайского диалога по вопросам искусственного интеллекта.
«Мы хотим общего представления об общих целях и общих угрозах», – заявил Бессент. Он отметил, что более прозрачное взаимодействие двух крупнейших ИИ-держав важно так же, как и координация в других видах трансграничной деятельности.
Как именно может работать механизм уведомлений, не уточняется. Неизвестно, какие ведомства будут отвечать за обмен информацией, какие события станут поводом для оповещения и в какие сроки стороны должны будут реагировать на полученные сообщения.
Председатель цифровой практики консалтинговой компании The Asia Group Джордж Чэнь назвал важным уже сам факт договорённости продолжать диалог. В комментарии для Associated Press он отметил, что создание механизма уведомления о рисках, связанных с ИИ, может стать прецедентом и для других государств.
Отдельно американские и китайские эксперты в сфере безопасности предлагали создать специальную военную горячую линию. Её задачей могло бы стать предотвращение ситуаций, когда случайные или несанкционированные действия систем искусственного интеллекта ошибочно принимают за намеренную атаку. Публично власти США и Китая эту инициативу пока не поддерживали.
Опасения на фоне сообщений об ошибках ИИ
Обсуждение проходит на фоне публикаций о возможных последствиях недостоверных ответов ИИ-систем для военных решений. Ранее СМИ сообщали, что весной США едва не перехватили китайское судно на Ближнем Востоке после того, как разведывательный отчёт с использованием ИИ ошибочно указал на перевозку материалов для ядерной программы.
По данным издания, основанием для утверждения стал неточный ответ чат-бота. Два источника рассказали, что военные уже готовились досмотреть судно, а авиация была поднята в воздух, однако при дополнительной проверке чиновники обнаружили, что часть содержания доклада была сгенерирована искусственным интеллектом.
Президент США Дональд Трамп неоднократно выступал против замедления разработки ИИ, называя опасения по поводу безопасности «мистификацией». Он считает сохранение технологического лидерства США в соперничестве с Китаем важным как для экономики, так и для национальной безопасности.
Предложенный формат уведомлений не означает появления общих правил регулирования или контроля над разработкой ИИ. Однако он может создать канал экстренной связи между странами в случаях, когда ошибка алгоритма, недостоверные данные или автономные действия системы способны повлиять на военную оценку ситуации.
Мнение редакции
Искусственный интеллект постоянно оказывается не только инструментом анализа, но и источником новых рисков для принятия решений. В условиях стратегического соперничества США и Китая даже ограниченный канал для проверки опасных сигналов способен снизить вероятность того, что машинная ошибка будет воспринята как враждебный шаг. Главная проверка этой инициативы – готовность сторон заранее определить чёткие правила обмена данными, а не ограничиться общими заявлениями.
