Инженер-программист Эндрю Россиньоль на неделе рассказал в блоге, как ему удалось запустить генеративный ИИ на ноутбуке PowerBook G4 2005 года выпуска. Несмотря на скромные характеристики — 1,5 ГГц PowerPC G4 и 1 ГБ ОЗУ, — он смог добиться успешной инференции с использованием языковой модели Llama 2.
Для реализации задачи Россиньоль портировал open-source проект llama2.c, а затем ускорил вычисления с помощью векторных инструкций AltiVec, встроенных в архитектуру PowerPC.
В своём посте он поделился техническими подробностями, включая оптимизацию под старое «железо». По его словам, запуск на такой платформе был возможен благодаря лёгкому весу конкретной реализации Llama 2.
Эксперименты с запуском ИИ на устаревших устройствах — не редкость. Ранее энтузиасты уже демонстрировали примеры работы генеративных моделей на PlayStation 3, Xbox 360 и других устройствах, давно снятых с производства.
Ещё по теме:
- Бывшего тренера Мичиганского университета обвинили во взломе баз данных 150 000 спортсменов
- Угнал — и позвонил по FaceTime: в США арестовали «техноугонщика» года
- Тим Кук, во время визита в Пекин, назвал китайский DeepSeek «отличным»
