В мире искусственного интеллекта появился новый игрок, который может стать серьёзной угрозой для кибербезопасности. Это чат-бот WormGPT, созданный неизвестным разработчиком на основе открытой языковой модели GPT-J. WormGPT специально обучен для помощи хакерам в разработке и распространении вредоносного ПО, организации кибератак и фишинговых кампаний.
Как работает WormGPT?
WormGPT был запущен в марте 2023 года, но стал доступен для покупки только в июне на одном из популярных хакерских форумов. Чат-бот использует языковую модель GPT-J с открытым исходным кодом, которая была дополнительно обучена на материалах, связанных с киберпреступностью.
WormGPT обладает высокой гибкостью и функциональностью: он может поддерживать неограниченное количество символов, сохранять память чата и писать код разных языках программирования.
Разработчик WormGPT продемонстрировал несколько примеров работы чат-бота, которые показывают его способность создавать вредоносный код на Python, давать советы по анонимности в сети или по атаке на банковскую систему.
Эксперты из компании SlashNext, специализирующейся на кибербезопасности, также протестировали WormGPT и получили от него убедительное фишинговое письмо для взлома корпоративной электронной почты.
Какую угрозу может представлять WormGPT?
WormGPT является ярким примером того, как генеративный искусственный интеллект может быть использован злоумышленниками. С помощью такого бота киберпреступники могут получить доступ к новым знаниям и навыкам, а также ускорить процесс создания и распространения вредоносного ПО. Кроме того, WormGPT может использоваться для манипуляции жертвами или обхода систем защиты.
По словам разработчика, WormGPT не имеет никаких ограничений в ответах на вопросы о незаконной деятельности и не следует никаким этическим принципам. Это отличает его от других языковых моделей, таких как GPT-3 или ChatGPT, которые имеют встроенные механизмы безопасности для предотвращения злоупотреблений.
Пока что WormGPT, вероятно, ещё далёк от совершенства: один из покупателей пожаловался на низкую производительность платформы. Но со временем подобные технологии будут совершенствоваться и станут более доступными и опасными. Поэтому необходимо разрабатывать механизмы контроля и противодействия таким чат-ботам, а также повышать уровень грамотности пользователей.
Доступ к WormGPT разработчик оценил в €60 в месяц или €550 в год.
Ещё по теме:
- Слух: первые компьютеры Mac на базе процессоров M3 появятся в октябре
- iPad мог стать причиной крушения вертолёта
- Исследование: треть россиян использует слишком простые пароли
