Недавно компания Meta* выпустила Llama 3.1 – ИИ-модель, которую пользователи могут бесплатно загрузить из Интернета и использовать на своих локальных компьютерах без каких-либо ограничений. Ответы ИИ сопоставимы с ответами ChatGPT, но модель не требует подключения к Интернету.

Всё, что требуется, – это компьютер Mac с собственным процессором от Apple, не менее 8 Гб оперативной памяти и знания о том, как загрузить модель, запустить и использовать её на Mac.

Для максимального упрощения использования Llama 3.1 доступно несколько помощников, все они бесплатны и могут быть установлены всего за пару минут.

Ollama

Небольшое приложение Ollama берёт на себя заботу о загрузке и обновлении текущей модели и работает как активный сервер в фоновом режиме, направляя запросы к модели и выводя её ответы. Приложение можно скачать по этой ссылке.

После установки Ollama вы можете использовать команду в Терминале...

ollama run llama3.1

...и загрузить текущую модель из Интернета. Для этого потребуется около 5 гигабайт свободного места на жёстком диске.

Ollamac

После установки Ollama вы сможете общаться с ИИ-моделью в Терминале. Однако приложение Ollamac для macOS, которое также является бесплатным, делает процесс общения гораздо более удобным.

Приложение доступно бесплатно на портале GitHub. Его можно скачать и запустить приложение сразу после запуска сервера с помощью Ollama. Или воспользоваться командой для установки с помощью Homebrew:

brew install --cask ollamac

Теперь в вашем распоряжении нативный пользовательский интерфейс с новыми чатами.

Больше ничего особенного знать не нужно. После установки Ollama и Ollamac вы сможете использовать ИИ-модель в автономном режиме сколько угодно раз без каких-либо ограничений, без потери данных и без необходимости переводить компании деньги за подписку.


*Компания Meta, а также принадлежащие ей соцсети Facebook и Instagram, признаны экстремистскими и запрещены на территории РФ.

Ещё по теме: