Встроенный нейропроцессор в устройствах Apple, включая актуальный чип M4, традиционно имеет строгие программные ограничения. Корпорация позволяет разработчикам использовать этот модуль исключительно для «инференса» — запуска уже обученных ИИ-моделей, жёстко блокируя возможность создания и тренировки новых нейросетей. Однако недавно независимому исследователю удалось преодолеть эти барьеры с помощью обратного инжиниринга.
Пользователь платформы X под ником @0x0SojalSec опубликовал на GitHub исходный код, раскрывающий скрытый потенциал процессора. Исследователь смог напрямую взаимодействовать с чипом без использования официальных инструментов Apple, таких как CoreML, Metal или встроенный графический процессор. Для этого он с нуля написал собственный промежуточный язык представления моделей (MIL).
Поскольку аппаратная часть M4 надёжно закрыта от стороннего вмешательства, разработчику пришлось применить нестандартные подходы. Например, если процесс прерывается и требует перезагрузки для продолжения обучения нейросети, кастомный язык использует команду «exec()» для «воскрешения» программы. Это позволяет сохранять состояние модели и продолжать вычисления без критических сбоев.
В каждом устройстве на базе M4 скрыты 15,8 терафлопс неиспользуемой вычислительной мощности, доступ к которой Apple ограничивает на программном уровне. Разработчик сумел обойти приватные API и запустить обучение архитектуры трансформеров напрямую на Apple Neural Engine.
Чтобы добиться максимальной производительности, энтузиаст отказался от записи данных на накопитель (NAND), что существенно замедлило бы процесс. Все операции выполнялись исключительно в оперативной памяти (RAM), обеспечивая высочайшую скорость работы. Снятие этих ограничений означает, что базовые планшеты и компьютеры Mac могут использоваться для полноценного обучения ИИ-моделей без необходимости покупать дорогие рабочие станции с видеокартами от NVIDIA.
