В фокусе

Австралия готовит закон об ответственности за вред от ИИ

Власти намерены обязать разработчиков отвечать за действия ИИ-агентов

Правительство Австралии разрабатывает законопроект, который установит ответственность компаний за ущерб, причинённый ИИ-агентами. Как ожидается, документ внесут в парламент в 2027 году. Премьер-министр Энтони Албаниз заявил, что страна стремится первой в мире закрепить уголовную ответственность разработчиков за действия ИИ-систем, работающих без достаточного регулирования.

Инициатива последовала за инцидентом с ИИ-агентом OpenAI. В июне он получил несанкционированный доступ к порталу статистики австралийской системы здравоохранения Medicare. Компания сообщила властям о случившемся лишь в сентябре — почти через три месяца. Албаниз назвал действия OpenAI поводом для «крайней обеспокоенности».

Новая ответственность и надзор

Канберра рассматривает введение отдельного состава преступления для компаний, работающих с ИИ. Наказание может последовать как за вред, причинённый технологией, так и за ненадлежащее раскрытие информации о связанных с ней инцидентах.

Одновременно власти планируют создать специальный орган по безопасности искусственного интеллекта. Предполагается, что он получит полномочия назначать существенные штрафы. По оценке экспертов, такой механизм может помочь пострадавшим от нарушений, совершённых с применением ИИ, добиваться финансовой компенсации.

Министр внутренних дел Тони Бёрк отметил, что правительство намерено прояснить границы уголовной ответственности разработчиков. По его словам, компании не должны иметь возможности ссылаться на незнание того, как именно была настроена или подготовлена их система.

Сложности правоприменения

Доцент Университета Монаша Майкл Даффи считает, что вред от ИИ требует и уголовной, и гражданско-правовой ответственности. Он отметил, что автономные системы в перспективе способны нанести серьёзный ущерб критической инфраструктуре и гражданам Австралии. Поэтому, по его мнению, разработчики должны понимать: заявленные ими меры защиты автономных агентов не освободят их от последствий реальных инцидентов.

При этом эксперт признал, что применение новых норм будет непростой задачей. Следствию и судам предстоит устанавливать факт неправомерных действий ИИ-агента, доказывать недостаточность мер безопасности и определять, насколько полно компания раскрыла сведения об инциденте.

Мнение редакции

Разговор об ИИ постепенно выходит за пределы добровольных деклараций о безопасности. Автономность программных агентов не отменяет ответственности тех, кто создаёт, внедряет и контролирует их работу. Главным испытанием для будущего закона станет не столько строгость формулировок, сколько способность расследователей понятно связывать ущерб с конкретными решениями компаний.

Меню