Президент США Дональд Трамп сообщил о заключении добровольного соглашения по безопасности передовых систем искусственного интеллекта. Документ под названием Joint Commitment On Frontier Responsibilities подписали руководители крупнейших американских технологических компаний, говорится в публикации TechSpot.
На встрече, по данным издания, участвовали Илон Маск из SpaceX, сооснователь OpenAI Грег Брокман, глава Anthropic Дарио Амодеи, руководитель Meta* Марк Цукерберг, генеральный директор Google Сундар Пичаи и глава NVIDIA Дженсен Хуанг. Трамп назвал соглашение «морально обязательным» и сравнил его с конституцией.
Что предусматривает соглашение
Участники обязуются внедрять внутренние процедуры и механизмы контроля, чтобы их технологии работали в соответствии с заявленными целями, а выявленные проблемы устранялись без промедления. Компании также должны привлекать независимых аудиторов для проверки систем мониторинга, обнаружения рисков и контроля.
Отдельно в документе оговаривается необходимость не допускать, чтобы модели получали несанкционированный доступ к техническим системам или взаимодействовали с ними непредусмотренным образом. Президент также заявил о создании совета по надзору за безопасностью ИИ, однако не уточнил его состав, полномочия и сроки начала работы.
При этом соглашение не предполагает прямо обозначенных санкций за невыполнение его положений. Как отмечает издание, компании, по всей видимости, смогут самостоятельно выбирать аудиторов и не обязаны публиковать результаты проверок.
Дата-центры и новый термин
На той же встрече Трамп вновь высказался в поддержку строительства дата-центров. По его словам, крупные технологические компании будут делать значительные вложения в местные сообщества. Президент заявил, что противодействие появлению таких объектов может затормозить экономическое развитие территорий.
Кроме того, Трамп подписал указ, предписывающий федеральным ведомствам и агентствам США использовать вместо термина artificial intelligence – «искусственный интеллект» – выражение Super Intelligence, или «суперинтеллект». Согласно документу, обозначение SI должно появиться в официальной переписке, на сайтах, в докладах и других материалах государственных структур.
В тексте указа утверждается, что развитие технологий выводит их за рамки понятия «искусственный интеллект» и открывает эпоху «суперинтеллекта». Ранее Трамп объяснял инициативу тем, что слово «искусственный» создаёт впечатление чего-то ненастоящего. Термин уже используют некоторые руководители технологических компаний, в том числе Маск и Цукерберг, однако его распространение за пределами официальной сферы остаётся под вопросом.
После объявления о соглашении Цукерберг заявил, что оно должно укрепить доверие американцев к создаваемым технологиям. Тем не менее практический эффект инициативы ещё предстоит оценить: отдельные компании уже вводили дополнительные меры безопасности и приостанавливали обучение наиболее мощных моделей после инцидентов с ИИ-агентами. Часть предусмотренных соглашением механизмов существовала и прежде, но не всегда позволяла предотвратить проблемы с безопасностью.
Мнение редакции
Добровольные обязательства способны задать компаниям общий ориентир, но не заменяют уже существующие правила и независимые проверки их исполнения. Вопрос безопасности ИИ упирается не в новое название технологии, а в возможность общества понимать, кто отвечает за её ошибки, каким образом оцениваются риски и что происходит при нарушениях. Строительство дата-центров и развитие моделей требуют не только (и не колько) инвестиций, но и понятного диалога с регионами, которым предстоит жить рядом с этой инфраструктурой.
