NVIDIA анонсировала новый продукт — чат-бот Chat With RTX. Это искусственный интеллект, который может общаться с пользователем и генерировать различный контент по его запросу. Особенностью Chat With RTX является то, что он работает не в «облаке», а на личном, локальном компьютере пользователя с видеокартой RTX.
Чат-бот основан на технологиях NVIDIA TensorRT-LLM и Retrieval Augmented Generated (RAG). Они позволяют ему быстро и точно отвечать на вопросы и создавать тексты, изображения, музыку и другие формы контента. Пользователь может выбрать одну из двух языковых моделей — Mistral или Llama — и указать источник данных для чат-бота. Это может быть любой файл в формате txt, pdf, doc и docx или xml, а также ссылка на видео или плейлист в YouTube.
Chat With RTX доступен для скачивания на сайте NVIDIA. Проект находится в стадии бета-тестирования и требует компьютера с Windows и видеокартой RTX 30 или RTX 40. Минимальный объём памяти видеокарты — 8 ГБ, оперативной памяти — 16 ГБ. Также необходимо установить драйвер версии 535.11 или выше.
Ещё по теме:
- Как российские банки обходят санкции с помощью приложений-троянов
- Яндекс запустил нейробраузер с технологиями ИИ нового поколения
- Google обвинили в сборе подробностей об интимной жизни пользователей
