Учёные из Института автоматизации Академии наук Китая разработали новую систему искусственного интеллекта SpikingBrain 1.0. По их словам, это первый в мире крупный языковой ИИ, построенный по принципу работы человеческого мозга и способный работать в сотни раз быстрее традиционных моделей.
Модель SpikingBrain 1.0 ориентирована на высокую энергоэффективность и разработана специально для китайских чипов, обходясь без решений от лидеров отрасли вроде Nvidia. Согласно техническому отчёту, SpikingBrain демонстрирует значительное преимущество при работе с длинными последовательностями данных: в некоторых задачах она работает до 100 раз быстрее аналогов, при этом обучена всего на 2% от объёма данных, которые обычно используют для таких моделей.
В основе SpikingBrain лежит подход, называемый «спайковыми вычислениями» — он имитирует работу биологических нейронов. В отличие от традиционных моделей вроде ChatGPT, которые активируют всю нейросеть при каждом запросе, SpikingBrain работает по событийной логике: нейроны активируются только при необходимости. Это позволяет экономить энергию и ускорять вычисления.
Учёные протестировали две версии модели: одну с 7 миллиардами параметров и вторую с 76 миллиардами. Обе были обучены на относительно небольшом корпусе — около 150 миллиардов токенов. В одном из тестов младшая модель обработала запрос из 4 миллионов токенов более чем в 100 раз быстрее стандартной архитектуры. В другом испытании при генерации первого токена из контекста в миллион токенов была зафиксирована ускоренная работа в 26,5 раза по сравнению с обычными системами.
Система устойчиво работала в течение нескольких недель на базе сотен чипов MetaX — разработке шанхайской компании MetaX Integrated Circuits Co. Это подтверждает её надёжность и пригодность для применения в реальных задачах. Перспективные области использования включают анализ объёмных юридических и медицинских документов, исследования в области физики высоких энергий и расшифровку ДНК, где важны скорость и эффективность.
В заключение авторы подчёркивают, что их модель открывает новые возможности для масштабируемого применения энергоэффективных ИИ-систем, основанных на нейроморфных принципах, и может стать альтернативой платформам на базе Nvidia.
Ещё по теме:
- Тонкость во всём: чем Apple пожертвовала ради iPhone Air
- YouTube расширяет доступ к многоголосовой озвучке видео
- iPhone Air — ещё один шаг к «монолитному куску стекла», о котором мечтал Джобс
