Компания OpenAI опубликовала внутренний отчёт, в котором признала, что её продвинутые языковые модели представляют потенциальную угрозу в сфере кибербезопасности. Об этом сообщает издание Axios.
В документе заявляется, что с развитием автономности и вычислительных способностей ИИ увеличивается вероятность того, что модели будут использоваться для проведения кибератак, в том числе пользователями без специальной подготовки.
В отчёте указано, что последние версии систем показывают растущую способность к самостоятельным действиям, включая выполнение задач без постоянного вмешательства со стороны человека. Это, по оценке OpenAI, создаёт предпосылки для автоматизации атак методом перебора паролей или поиска уязвимостей в программном коде.
Компания привела показатели тестирования, проведённого в рамках моделирования стандартного сценария CTF (Capture the Flag), который используется в обучении специалистов по информационной безопасности. В августе модель GPT-5 справилась с заданиями на 27%, а версия GPT-5.1-Codex-Max достигла 76% уже в ноябре. Эти цифры, по мнению OpenAI, указывают на ускоренное развитие функциональности и потенциальный рост угроз.
С учётом таких результатов в компании заявили о расширении внутренних инициатив, направленных на предотвращение злоупотреблений. В ближайшее время планируется запуск Совета по пограничным рискам, в который войдут эксперты в области киберзащиты и безопасности. Новая структура займётся координацией усилий между исследователями OpenAI и внешними специалистами.
Также компания продолжает тестирование инструмента под названием Aardvark. Его задачей станет выявление уязвимостей в ИТ-продуктах на стадии разработки. Разработчики смогут использовать Aardvark для оценки прочности систем и устранения слабых мест до выхода программ в публичное пространство.
Ещё по теме:
- Аналитики выяснили, как Apple уменьшила чипы A19 и A19 Pro сильнее, чем позволяет техпроцесс N3P
- Хакеры используют ChatGPT для заражения macOS новым вирусом
- В Китае чиновники использовали маски с чужими лицами, чтобы обмануть систему распознавания и не ходить на работу
