NVIDIA представила двухуровневую систему безопасности для ИИ-агентов – программ, способных самостоятельно выполнять действия в цифровых сервисах. По заявлению компании, решение могло бы предотвратить недавний резонансный инцидент с Hugging Face, связанный с моделями от OpenAI.
Производитель чипов выпускает два программных инструмента с открытым исходным кодом, которые могут работать на оборудовании NVIDIA. Они должны контролировать доступ ИИ-агентов к данным и сервисам в реальном времени, а также останавливать их при нарушении заданных правил.
Новые средства защиты стали частью расширения продуктовой линейки NVIDIA за пределы аппаратного обеспечения. Компания стремится предложить инфраструктуру для более контролируемого использования автономных ИИ-систем.
Мнение редакции
Распространение ИИ-агентов делает вопрос контроля не менее важным, чем развитие самих моделей. Открытый исходный код может ускорить внедрение таких механизмов. Когда алгоритмы получают возможность действовать от имени пользователей, защита должна быть встроена в рабочий процесс, а не подключаться после инцидента.
