Исследователи Cisco Talos обнаружили вредоносную программу для Windows под названием CLOSEDQUORUM, которая использует сразу несколько больших языковых моделей для выбора дальнейших действий на скомпрометированном устройстве. В частности, она способна обращаться к DeepSeek, Qwen, Mistral AI и Google Gemini.
По данным специалистов, CLOSEDQUORUM не содержит встроенного механизма, через который оператор мог бы напрямую отдавать команды после запуска программы. Вместо этого вредоносное ПО запрашивает ответы у доступных ИИ-сервисов и использует их при принятии решений. Если один из сервисов недоступен, программа может переключиться на другой.
Основные предполагаемые задачи CLOSEDQUORUM — кража учётных данных и криптовалюты. Аналитики выявили связь образцов с активностью на киберпреступных форумах, посвящённой мошенничеству с банковскими картами, начиная с 2025 года. При этом Cisco Talos пока не установила ни авторов инструмента, ни факт его применения против реальных целей.
Как ищут ИИ-интеграции
Обнаружить CLOSEDQUORUM удалось при помощи нового открытого проекта Cisco Talos — Cognitive Artifact Intelligence Research Network, или CAIRN. Это фреймворк для выявления технических следов, которые остаются во вредоносных образцах при интеграции с ИИ-сервисами.
CAIRN анализирует метаданные и другие характеристики, связанные с использованием моделей, а затем присваивает образцам идентификаторы для сравнения с уже известными угрозами. Система объединяет схожие артефакты в группы, помогая исследователям отслеживать способы, которыми злоумышленники подключают большие языковые модели к вредоносному ПО и инфраструктуре управления.
Руководивший разработкой CAIRN исследователь Cisco Talos Райан Феттерман объяснил, что интеграция ИИ оставляет своеобразные «отпечатки». По ним можно выявлять образцы, классифицировать их и наблюдать за развитием этого направления.
ИИ становится частью инфраструктуры атак
Особенность CLOSEDQUORUM состоит в том, что языковые модели задействованы не только на этапе подготовки атаки, но и непосредственно в системе управления программой на заражённом компьютере. Ранее ИИ чаще использовали для написания кода, создания фишинговых материалов или автоматизации отдельных операций кампании. В этом случае ответы моделей направляют действия вредоносной программы уже после проникновения в систему.
Старший директор Cisco Talos по анализу угроз Мэтт Олни считает, что это указывает на переход ИИ от вспомогательного инструмента к элементу атакующей инфраструктуры. По его оценке, такая автоматизация потенциально позволяет преступникам вести больше кампаний, работать с более широким набором целей и адаптироваться к разным устройствам.
Однако первоначальные ожидания массового распространения подобных инструментов пока не оправдались. Примерно через год после первых наблюдений Феттерман смог найти лишь около девяти известных семейств вредоносных программ, использующих ИИ, включая исследовательские прототипы.
Тестирование CAIRN, впрочем, позволило выявить ещё около 20 образцов с ИИ-интеграциями. Исследователи подчёркивают, что большинство таких разработок остаётся экспериментальным, но публичные сообщения, вероятно, не отражают всего масштаба работ в этой области.
Мнение редакции
CLOSEDQUORUM важна не как свидетельство немедленной массовой угрозы, а как ранний пример смены подхода: ИИ начинают встраивать в логику вредоносных программ, а не применять только для их создания. Множественные внешние модели делают такую схему устойчивее к сбоям отдельных сервисов, но одновременно оставляют исследователям больше технических следов для обнаружения. Пока подобные решения выглядят экспериментальными, у специалистов по защите есть (пока ещё) возможность заранее выработать методы противодействия.
