Американский разработчик искусственного интеллекта Anthropic заявил о беспрецедентной кибератаке со стороны китайского ИТ-гиганта Alibaba. Согласно внутреннему письму, направленному сенаторам США и представителям Белого дома, связанная с Alibaba лаборатория Qwen незаконно извлекала данные из языковой модели Claude для обучения собственных продуктов.
По данным Anthropic, в период с апреля по июнь злоумышленники создали около 25 000 фейковых аккаунтов. С их помощью они сгенерировали 28,8 миллиона запросов к нейросети Claude, успешно обходя региональные блокировки и нарушая пользовательское соглашение.
Как устроена «дистилляция» нейросетей
Целью этой масштабной операции стал процесс, который в сфере машинного обучения официально называется «дистилляцией знаний». Его суть заключается в передаче интеллектуальных способностей от массивной и вычислительно сложной модели-«учителя» к более компактному «ученику».
При классическом обучении ИИ получает так называемые «жёсткие метки» – однозначные ответы. Например, система видит изображение и заучивает, что это стопроцентный волк. Однако передовые нейросети, такие как Claude, мыслят сложнее и оперируют вероятностями, выдавая «мягкие метки». Они могут определить, что перед ними на 90% волк, но в его чертах есть 9% от собаки и 1% от кошки. Именно эти тонкие взаимосвязи, контекст и паттерны рассуждений извлекаются в процессе дистилляции.
Массово отправляя специально составленные запросы, «ученик» не просто копирует правильные ответы, а перенимает саму логику мышления «учителя». В результате злоумышленники получают компактную систему, которая работает быстрее и требует кратно меньше вычислительных ресурсов, но по качеству вплотную приближается к оригинальной разработке. Представители Anthropic подчёркивают, что атака китайской компании была нацелена на самые ценные функции Claude – в первую очередь на программирование и автономное решение задач.
Китайский след и политические последствия
Это не первый случай, когда азиатские лаборатории, по заявлениям американских компаний, пытаются скопировать технологии, однако масштабы Alibaba превзошли всех предшественников. Ещё в феврале Anthropic фиксировала аналогичные атаки со стороны китайских стартапов DeepSeek, Moonshot AI и MiniMax. Тогда речь шла о 24 000 фейковых аккаунтов и 16 миллионах запросов для извлечения алгоритмов.
Скандал разворачивается на фоне жёстких политических решений. Недавно администрация Дональда Трампа ввела экспортные ограничения, потребовав от Anthropic предоставлять доступ к новейшим моделям Fable 5 и Mythos 5 исключительно гражданам США из-за страха перед китайским шпионажем. В ответ компания предпочла полностью отозвать эти модели с рынка. Официально Claude в Китае не работает, поэтому для выкачивания данных применялись прокси-серверы. В Anthropic уверены, что подобный интеллектуальный шпионаж несёт угрозу национальной безопасности: украденные возможности ИИ могут применяться для наступательных киберопераций.
Рынок отреагировал на утечку информации незамедлительно – акции Alibaba на фоне обвинений упали примерно на 3%. Эксперты ожидают, что этот инцидент заставит Вашингтон усилить контроль за доступом зарубежных компаний к передовым американским ИИ-системам.
