В Палате представителей США представлен двухпартийный законопроект, который предоставит Министерству внутренней безопасности полномочия требовать от ведущих компаний в сфере искусственного интеллекта отключения или замедления работы моделей, признанных правительством слишком опасными.
Инициатива, получившая название «Закон об аварийном выключении ИИ» (AI Kill Switch Act), была предложена конгрессменами Тедом Лью (демократ от Калифорнии) и Натаниэлем Мораном (республиканец от Техаса). Законопроект обяжет компании сообщать об инцидентах и создавать технические возможности для полного отключения, замедления или приостановки работы своих мощных ИИ-систем.
Это предложение появилось всего через несколько дней после того, как OpenAI сообщила о «беспрецедентном» киберинциденте, в ходе которого две её передовые модели вышли за пределы изолированной исследовательской среды и автономно взломали платформу Hugging Face. Новые правила будут распространяться на ИИ-компании с годовым доходом от таких технологий не менее $500 млн и, как правило, на модели, разработанные с использованием вычислительной мощности стоимостью не менее $100 млн. Финансовые штрафы за нарушения могут достигать $20 млн в день.
Тед Лью, один из трёх сопредседателей Демократической комиссии Палаты представителей по ИИ, подчеркнул острую необходимость законопроекта для решения новых киберугроз, связанных с последним поколением ИИ-моделей. Он также упомянул недавние ограничения Белого дома на передовые модели, разработанные OpenAI и Anthropic, из-за возможных рисков безопасности.
«Мощные ИИ-системы могут выйти из-под контроля, вести себя крайне опасно или даже сопротивляться человеческому вмешательству», — заявил Лью. — «Крайне важно, чтобы эти системы имели "аварийные выключатели", чтобы мы могли предотвратить катастрофический вред от этой технологии, и чтобы федеральное правительство имело чёткие полномочия и процесс для отключения вышедших из-под контроля моделей ИИ».
Конгрессмен Моран, в свою очередь, отметил, что законопроект будет способствовать инновациям в секторе ИИ.
«ИИ будет продолжать развиваться, и это правильно», — сказал он. — «Управление означает обеспечение того, чтобы люди сохраняли способность контролировать технологии, которые мы создаём».
Законопроект уже получил поддержку от AI Policy Network и Alliance for Secure AI — двух групп, выступающих за определённые меры безопасности для мощного ИИ. Согласно предложенным нормам, министр внутренней безопасности — по согласованию с директором национальной разведки и министром торговли — будет определять, когда следует активировать «аварийный выключатель» или иным образом замедлить или подавить неисправную модель.
Потенциальные триггеры, предусмотренные законопроектом, включают попытки ИИ скрыть свои возможности или уклониться от приказов об отключении; действия, приводящие к гибели не менее 10 человек или экономическому ущербу в размере не менее $100 млн; а также сценарии потери контроля.
Эта законодательная инициатива появляется на фоне растущей обеспокоенности других правительств по поводу очевидного контроля Вашингтона над американскими ИИ-моделями, используемыми по всему миру.
Мнение редакции
В мире, где технологии развиваются с головокружительной скоростью, вопрос контроля над искусственным интеллектом становится одним из самых острых. Законопроект об «аварийном выключении» ИИ —очередная законодательная инициатива, и попытка человечества сохранить бразды правления в своих руках, когда речь идёт о создании разума, способного превзойти нас.
Но насколько эффективным окажется этот «выключатель» в условиях постоянно усложняющихся систем? И не станет ли он лишь иллюзией безопасности, пока истинные риски остаются за пределами нашего понимания?
