В мире искусственного интеллекта появился новый игрок, который может стать серьёзной угрозой для кибербезопасности. Это чат-бот WormGPT, созданный неизвестным разработчиком на основе открытой языковой модели GPT-J. WormGPT специально обучен для помощи хакерам в разработке и распространении вредоносного ПО, организации кибератак и фишинговых кампаний.

Как работает WormGPT?

WormGPT был запущен в марте 2023 года, но стал доступен для покупки только в июне на одном из популярных хакерских форумов. Чат-бот использует языковую модель GPT-J с открытым исходным кодом, которая была дополнительно обучена на материалах, связанных с киберпреступностью.

WormGPT обладает высокой гибкостью и функциональностью: он может поддерживать неограниченное количество символов, сохранять память чата и писать код разных языках программирования.

Разработчик WormGPT продемонстрировал несколько примеров работы чат-бота, которые показывают его способность создавать вредоносный код на Python, давать советы по анонимности в сети или по атаке на банковскую систему.

Эксперты из компании SlashNext, специализирующейся на кибербезопасности, также протестировали WormGPT и получили от него убедительное фишинговое письмо для взлома корпоративной электронной почты.

Какую угрозу может представлять WormGPT?

WormGPT является ярким примером того, как генеративный искусственный интеллект может быть использован злоумышленниками. С помощью такого бота киберпреступники могут получить доступ к новым знаниям и навыкам, а также ускорить процесс создания и распространения вредоносного ПО. Кроме того, WormGPT может использоваться для манипуляции жертвами или обхода систем защиты.

По словам разработчика, WormGPT не имеет никаких ограничений в ответах на вопросы о незаконной деятельности и не следует никаким этическим принципам. Это отличает его от других языковых моделей, таких как GPT-3 или ChatGPT, которые имеют встроенные механизмы безопасности для предотвращения злоупотреблений.

Пока что WormGPT, вероятно, ещё далёк от совершенства: один из покупателей пожаловался на низкую производительность платформы. Но со временем подобные технологии будут совершенствоваться и станут более доступными и опасными. Поэтому необходимо разрабатывать механизмы контроля и противодействия таким чат-ботам, а также повышать уровень грамотности пользователей.

Доступ к WormGPT разработчик оценил в €60 в месяц или €550 в год.

Ещё по теме: