Гейтс призвал США зарегулировать разработку ИИ
Гейтс считает необходимым надзор властей за развитием ИИ

Сооснователь Microsoft Билл Гейтс заявил, что саморегулирования со стороны разработчиков искусственного интеллекта недостаточно. По его мнению, власти США должны участвовать в формировании обязательных правил безопасности и в контроле за соблюдением этих правил.
Об этом Гейтс сказал в интервью программе Meet the Press на NBC News Полная версия беседы должна выйти в эфир в воскресенье. Отвечая на вопрос о необходимости федерального законодательства, он ответил утвердительно.
«Нужны правоохранительные органы и политики, которые будут участвовать в обсуждении того, какими должны быть меры защиты и мониторинг, — отметил Гейтс. — Это должно стать обязательным требованием».
Он признал, что новые требования создадут для отрасли дополнительную нагрузку, однако, по его оценке, не приведут к существенному замедлению разработок.
Риски и темпы развития
Гейтс также призвал не игнорировать вероятность того, что современные ИИ-инструменты могут использоваться злоумышленниками для масштабного ущерба уже в ближайшее время. По его словам, сочетание передовых технологий и намерений причинить вред способно создать беспрецедентную угрозу.
В начале сентября руководители Anthropic и OpenAI публично согласились с тем, что гонку за созданием всё более мощных ИИ-систем следует замедлить. Поводом для нового витка дискуссии стали заявления бывшего сотрудника Anthropic Джейкоба Коксона, который после ухода из компании выступил с критикой темпов разработки и подходов к безопасности.
Генеральный директор Anthropic Дарио Амодеи выступал о необходимости сдерживания темпов развития передового ИИ выступил за федеральное и международное сотрудничество. Он считает, что регулирование должно распространяться на все американские компании, создающие передовые ИИ-модели, включая тех игроков рынка, которые не готовы добровольно выполнять общие договорённости. Амодеи также указал на необходимость взаимодействия с Китаем, обладающим значительными возможностями в этой сфере.
Глава OpenAI Сэм Альтман, выступая в ООН, призвал сформировать международные стандарты для измерения возможностей ИИ-систем, оценки рисков, проверки достаточности защитных механизмов и сохранения содержательного контроля со стороны человека.
Разные подходы к контролю
Не все представители индустрии поддерживают идею отраслевой координации. Основатель и генеральный директор Meta* Марк Цукерберг заявил NBC News, что не видит необходимости в едином механизме для всех компаний. По его мнению, каждая лаборатория должна самостоятельно приостанавливать работу и устранять риски, когда выявляет проблемы с безопасностью.
В Конгрессе США единого подхода также пока нет. Спикер Палаты представителей Майк Джонсон ранее говорил о необходимости защитных ограничений, но выступал против поспешного принятия федерального закона. Он отмечал, что сами руководители ИИ-компаний пока не предложили ясного законодательного решения, а непродуманные меры могут затронуть национальную безопасность.
Отдельные штаты уже запускают собственные механизмы регулирования. Губернатор Калифорнии Гэвин Ньюсом подписал указ о создании экспертного совета, который должен подготовить предложения по усилению законодательства в области безопасности ИИ. Губернаторы Мэриленда Уэс Мур и Нью-Йорка Кэти Хокул также представили планы регулирования. В частности, в Нью-Йорке предполагается создать Управление цифровых инноваций, управления, добросовестности и доверия, которое будет следить за соблюдением компаниями правовых требований.
Президент Microsoft Брэд Смит на сессии ООН, посвящённой ИИ и развитию человека, раскритиковал ситуацию, в которой технологические компании объясняют отсутствие ограничений ожиданием федерального регулирования. Он сравнил конкуренцию разработчиков с гонкой двух производителей самолётов: при угрозе аварии безопасность пассажиров и общества должна быть важнее стремления выпустить новый продукт раньше соперника.





