OpenAI провела эксперимент с автономной системой ИИ-агентов, которая сама ищет уязвимости в коде, проверяет возможность атак и готовит исправления.
В ядре Linux система выявила 2308 потенциальных проблем, 948 из них подтвердились как уязвимости, допускающие повышение привилегий. Расчётная стоимость всей работы по ценам API OpenAI составила около $1,21 млн.
Система устроена как команда узких специалистов. Одни агенты изучают исходный код и отмечают подозрительные участки, другие пытаются написать эксплойты для проверки найденных ошибок, третьи готовят исправления. Все работают в одной автоматической цепочке и передают результаты друг другу.
Первичный анализ дал 2308 потенциальных находок, ИИ смог воспроизвести 1724 проблемы. Агенты собрали 291 подтверждение возможности утечки информации и написали 1169 работающих эксплойтов для локального повышения привилегий. После удаления повторов у OpenAI осталось 948 подтверждённых уязвимостей.
Затем система переключилась с поиска ошибок на их устранение, и агенты подготовили исправления для всех 948 проблем. Автоматически переписывать ядро Linux разработчики не стали, и каждое изменение должно пройти проверку специалистов перед попаданием в код. OpenAI передала сопровождающим проекта сотни отчётов с описанием дефектов и вариантами исправления.
Выполнение всей работы обошлось бы пользователю API примерно в $1 213 430, то есть около $1279 на одну подтверждённую уязвимость. Для сравнения, выплаты исследователям за серьёзные ошибки в программах могут составлять от $20 до $70 тыс.
Разработчики Linux результаты эксперимента пока не прокомментировали.
