Сооснователь Microsoft Билл Гейтс заявил, что саморегулирования со стороны разработчиков искусственного интеллекта недостаточно. По его мнению, власти США должны участвовать в формировании обязательных правил безопасности и в контроле за соблюдением этих правил.
Об этом Гейтс сказал в интервью программе Meet the Press на NBC News Полная версия беседы должна выйти в эфир в воскресенье. Отвечая на вопрос о необходимости федерального законодательства, он ответил утвердительно.
«Нужны правоохранительные органы и политики, которые будут участвовать в обсуждении того, какими должны быть меры защиты и мониторинг, — отметил Гейтс. — Это должно стать обязательным требованием».
Он признал, что новые требования создадут для отрасли дополнительную нагрузку, однако, по его оценке, не приведут к существенному замедлению разработок.
Риски и темпы развития
Гейтс также призвал не игнорировать вероятность того, что современные ИИ-инструменты могут использоваться злоумышленниками для масштабного ущерба уже в ближайшее время. По его словам, сочетание передовых технологий и намерений причинить вред способно создать беспрецедентную угрозу.
В начале сентября руководители Anthropic и OpenAI публично согласились с тем, что гонку за созданием всё более мощных ИИ-систем следует замедлить. Поводом для нового витка дискуссии стали заявления бывшего сотрудника Anthropic Джейкоба Коксона, который после ухода из компании выступил с критикой темпов разработки и подходов к безопасности.
Генеральный директор Anthropic Дарио Амодеи выступал о необходимости сдерживания темпов развития передового ИИ выступил за федеральное и международное сотрудничество. Он считает, что регулирование должно распространяться на все американские компании, создающие передовые ИИ-модели, включая тех игроков рынка, которые не готовы добровольно выполнять общие договорённости. Амодеи также указал на необходимость взаимодействия с Китаем, обладающим значительными возможностями в этой сфере.
Глава OpenAI Сэм Альтман, выступая в ООН, призвал сформировать международные стандарты для измерения возможностей ИИ-систем, оценки рисков, проверки достаточности защитных механизмов и сохранения содержательного контроля со стороны человека.
Разные подходы к контролю
Не все представители индустрии поддерживают идею отраслевой координации. Основатель и генеральный директор Meta* Марк Цукерберг заявил NBC News, что не видит необходимости в едином механизме для всех компаний. По его мнению, каждая лаборатория должна самостоятельно приостанавливать работу и устранять риски, когда выявляет проблемы с безопасностью.
В Конгрессе США единого подхода также пока нет. Спикер Палаты представителей Майк Джонсон ранее говорил о необходимости защитных ограничений, но выступал против поспешного принятия федерального закона. Он отмечал, что сами руководители ИИ-компаний пока не предложили ясного законодательного решения, а непродуманные меры могут затронуть национальную безопасность.
Отдельные штаты уже запускают собственные механизмы регулирования. Губернатор Калифорнии Гэвин Ньюсом подписал указ о создании экспертного совета, который должен подготовить предложения по усилению законодательства в области безопасности ИИ. Губернаторы Мэриленда Уэс Мур и Нью-Йорка Кэти Хокул также представили планы регулирования. В частности, в Нью-Йорке предполагается создать Управление цифровых инноваций, управления, добросовестности и доверия, которое будет следить за соблюдением компаниями правовых требований.
Президент Microsoft Брэд Смит на сессии ООН, посвящённой ИИ и развитию человека, раскритиковал ситуацию, в которой технологические компании объясняют отсутствие ограничений ожиданием федерального регулирования. Он сравнил конкуренцию разработчиков с гонкой двух производителей самолётов: при угрозе аварии безопасность пассажиров и общества должна быть важнее стремления выпустить новый продукт раньше соперника.
