На конференции RSA в Сан-Франциско эксперты LMG Security наглядно показали, как так называемый «злой ИИ» — искусственный интеллект без этических ограничений — может полностью изменить правила игры в кибербезопасности. На живой демонстрации специалисты продемонстрировали возможности одной из таких моделей — WormGPT, которая свободно анализирует код, находит уязвимости и предлагает готовые инструкции по их использованию.
Сессия в Moscone Center собрала полную аудиторию. Руководитель LMG Security Шерри Давидофф напомнила, что уязвимости в программном обеспечении были и остаются одной из главных угроз. Однако именно технический директор по обучению и исследованиям компании Мэтт Даррин задал тревожный тон, представив WormGPT как версию ChatGPT без фильтров и ограничений. Этот ИИ не просто отвечает на запрещённые запросы — он делает это быстро, точно и эффективно.
Даррин и его команда приобрели WormGPT за $50 в Telegram, после безуспешных попыток получить доступ к другим аналогичным ИИ, вроде GhostGPT и DevilGPT. WormGPT продемонстрировал способность выявлять критические уязвимости: сначала на платформе DotProject, затем в знаменитой уязвимости Log4j, а в финале — на тестовом сервере с Magento. В последнем случае ИИ обнаружил сложный эксплойт, обошёл защиту и выдал пошаговые инструкции, включая готовый код.
Даррин подчеркнул: главное — не существование этих инструментов, а их эффективность. ИИ уже способен находить дыры в защите раньше, чем об этом узнают специалисты. При этом традиционные защитные инструменты вроде ChatGPT или SonarQube не распознают такие угрозы.
В завершение Давидофф поделилась тревожным прогнозом:
«Я беспокоюсь, где мы окажемся через полгода, если за год прогресс стал таким быстрым».
Разработка хакерских ИИ-систем идёт стремительно, а защита, судя по всему, пока не поспевает.
Ещё по теме:
- Huawei строит мегазавод по выпуску чипов
- Кувейт объявил майнинг криптовалюты вне закона на фоне энергетического кризиса
- Американец два десятилетия вводил себе змеиный яд — и помог учёным создать первое универсальное противоядие
