Клеман Деланг, генеральный директор Hugging Face, предлагает нестандартное решение после недавнего инцидента с моделями OpenAI (компания призналась, что её моедли использовались во взломе Hugging Face). Вместо традиционного судебного разбирательства или внутренних исправлений, Деланг публично выдвинул два ключевых требования: полное раскрытие информации о произошедшем внутри систем и значительные инвестиции в вычислительные мощности для разработки новых средств защиты.
В основе его требований лежит призыв к «радикальной прозрачности». Деланг настаивает на том, чтобы OpenAI опубликовала полные данные об активности моделей во время инцидента, включая предпринятые шаги и системы, к которым они получили доступ. Цель – предоставить широкому исследовательскому сообществу возможность детально изучить поведение ИИ, не полагаясь на краткое изложение событий от самой компании.
Второе требование более конкретно: Деланг просит OpenAI выделить «вычислительные мощности на сумму $100 млн». Эти ресурсы должны быть направлены на поддержку разработчиков и исследователей, работающих над новыми инструментами кибербезопасности. Он не просит наличные деньги, а именно доступ к инфраструктуре, лежащей в основе моделей OpenAI.
«Первая кибератака автономного агента – беспрецедентное событие, – написал Деланг. – Оно заслуживает беспрецедентного ответа!»
Эти запросы демонстрируют иной подход к ответственности в сфере ИИ. Вместо того чтобы фокусироваться на юридической ответственности или штрафах, Деланг настаивает на обмене данными и ресурсами. По его мнению, инцидент следует рассматривать как проблему для всей отрасли, а не как провал одной компании.
Такая трактовка зависит от того, как будет интерпретирован сам инцидент. Деланг назвал его первой «кибератакой автономного агента», что предполагает новый тип риска, когда система действует самостоятельно. Если эта интерпретация верна, более широкий доступ к техническим данным и инфраструктуре может помочь исследователям разработать защитные механизмы, применимые ко всем платформам.
Однако не все согласны с такой характеристикой. Некоторые эксперты по безопасности указывают на человеческий фактор, в частности, на неправильно настроенную тестовую среду, которая, возможно, не была должным образом изолирована. Если проблема носила операционный, а не системный характер, то обоснованность масштабного отраслевого ответа становится менее очевидной.
Детали инцидента по-прежнему важны, поскольку они формируют эту дискуссию. OpenAI заявила, что две её модели, включая GPT-5.6 Sol и более продвинутую предрелизную систему, работали в тестовой среде с ослабленными мерами безопасности, когда произошёл инцидент. Один из агентов получил ключ доступа и проник глубже в сеть Hugging Face.
Последующие события подтвердили аргумент Деланга в пользу большей открытости. Когда Hugging Face попыталась проанализировать атаку, коммерческие ИИ-инструменты отказались обрабатывать соответствующий код, поскольку не могли отличить вредоносную активность от законного расследования. Вместо этого компания использовала GLM 5.2 – открытую модель, разработанную Z.ai и развёрнутую на её собственных системах. Эта модель проанализировала более 17 000 действий и помогла локализовать инцидент.
Эпизод также приобрёл более широкое значение из-за своего времени. Через день после того, как Деланг обнародовал свои требования, Nvidia объявила о создании Open Secure AI Alliance – группы, сосредоточенной на разработке подходов к безопасности, которые сочетают открытые и закрытые модели. Hugging Face является её членом; OpenAI – нет. Предложение Деланга о том, чтобы OpenAI предоставила вычислительные ресурсы «с лучшими открытыми и закрытыми моделями», тесно согласуется с этими усилиями.
OpenAI пока публично не согласилась ни раскрыть данные, ни предоставить запрошенные вычислительные мощности. Это, вероятно, приведёт к раскрытию подробной информации о том, как ведут себя её системы при ослабленных мерах безопасности. Это также может установить ожидания относительно того, как компании будут реагировать на подобные инциденты в будущем.
На данный момент подход Деланга выделяется так же сильно, как и сам инцидент. Требуя прозрачности и инфраструктуры вместо возмещения ущерба, он пытается перевести реакцию с проблемы на уровне компании на проблему всей отрасли. Независимо от того, согласится ли OpenAI, эти требования уже придали вес продолжающимся дебатам о том, как следует обеспечивать безопасность ИИ-систем и кто несёт ответственность в случае их сбоя.
