Белый дом ввёл экспортные ограничения на продвинутую модель Claude Mythos 5 от Anthropic после подозрений, что к ней получила доступ группа, связанная с Китаем.
В пятницу администрация Дональда Трампа потребовала, чтобы доступ к Claude Mythos 5 и её потребительской версии Claude Fable 5 был только у граждан США. Это означало, что пользоваться моделями не смогли бы даже сотрудники Anthropic с иностранным гражданством, поэтому компания решила полностью убрать обе системы с рынка.
Anthropic изначально жёстко контролировала выпуск Claude Mythos 5, запущенной в апреле: доступ к ней получили лишь немногие компании, которые могли использовать модель для поиска уязвимостей в программном обеспечении. Такой подход, по замыслу компании, должен был не допустить, чтобы возможности модели попали в руки хакеров. Сама Anthropic прежде предупреждала, что Mythos представляет общественный риск из-за способности находить ошибки в коде, которыми затем могут воспользоваться злоумышленники.
Пока неясно, как именно Белый дом узнал о возможном инциденте, какая именно организация получила доступ к модели и каким образом это произошло. Но если доступ действительно оказался у китайского правительства, это, с точки зрения американских властей, создаёт риск для национальной безопасности США. В Вашингтоне также опасаются, что такую модель можно попытаться воспроизвести через процесс, известный как «дистилляция».
В субботу советник президента Дэвид Сакс написал, что перед решением об ограничениях правительство получило предупреждение: у Claude Fable 5 якобы можно обойти встроенные защитные механизмы. По версии Сакса, когда администрация сообщила об этом Anthropic, сооснователь и гендиректор компании Дарио Амодеи счёл проблему несерьёзной и отказался её исправлять.
Fable 5 Anthropic выпустила в открытый доступ в начале недели как версию Mythos с ограничителями, которые не позволяют использовать модель для задач в области кибербезопасности. В этом контексте «джейлбрейк» означает способ снять такие ограничения.
Источник, близкий к Белому дому, утверждает, что о возможном обходе защит правительству сообщила Amazon, а её глава Энди Джасси обсуждал этот вопрос с представителями администрации. Сам Сакс говорит, что ограничения вводились неохотно, но директива всё равно требовала оставить доступ к Mythos и Fable только гражданам США, и именно это в итоге вынудило Anthropic отключить модели для всех пользователей.
Представитель Anthropic заявил, что в разговорах с Белым домом о «джейлбрейке» и экспортных ограничениях тема китайского доступа к Mythos не поднималась. Компания также подчёркивает, что запрещает доступ к своим продуктам из Китая.
Представитель Amazon ограничился заявлением, что для властей не редкость обращаться к компании за консультациями по возможным рискам безопасности, и такие обсуждения обычно не раскрываются публично. Белый дом и сам Сакс на запросы о дополнительных комментариях не ответили.
Это не первый конфликт Anthropic с Белым домом. Ранее компания выступала против попыток администрации опередить регулирование ИИ на уровне штатов, а также судится с Пентагоном после спора об использовании её моделей в автономном оружии. По словам Сакса, эти прежние разногласия не повлияли на решение по Mythos: администрация, как он утверждает, ценит технические возможности Anthropic и считает, что нынешнюю проблему можно решить.
