Российские ИТ-компании при согласовании с Минцифры смогут направлять большие модели искусственного интеллекта в независимые испытательные лаборатории для оценки их соответствия законодательству и традиционным духовно-нравственным ценностям. Обсуждение такой процедуры прошло в конце июля — начале августа на площадке АНО «Цифровая экономика», сообщили «Ведомостям» источники среди участников консультаций, в профильной ИТ-ассоциации и в Минцифры.
Механизм разрабатывается в рамках подготовки подзаконных актов к закону об искусственном интеллекте, принятому 26 июля. Документ вводит для больших фундаментальных моделей два специальных статуса — национальной и суверенной модели. Для их получения разработчикам потребуется подтвердить, что ИИ соответствует российскому законодательству и традиционным духовно-нравственным ценностям. Сам закон носит рамочный характер: конкретные требования и порядок работы рынка должны быть определены правительственными и ведомственными документами.
Порядок подтверждения соответствия моделей традиционным ценностям должно установить правительство, говорил 7 июля во время первого чтения законопроекта в Госдуме статс-секретарь — заместитель министра цифрового развития Иван Лебедев. В подготовке документов, по его словам, участвуют Минцифры, ФСБ и ФСТЭК, отвечающие в том числе за информационную и технологическую безопасность. Чиновник отмечал, что первый вариант архитектуры будущего регулирования уже подготовлен. Методика должна содержать критерии, по которым можно будет оценить соответствие модели ценностям и задачам технологического развития страны.
Бенчмарки вместо перечня
Отдельно закреплять список духовно-нравственных ценностей в новом акте не планируется, рассказал изданию участник обсуждения. Их перечень уже установлен указом президента № 809. Вместо этого власти и бизнес намерены подготовить специальные бенчмарки — наборы тестов для проверки российских моделей на соответствие нормам права и ценностным требованиям.
По словам собеседника, правительственная комиссия по цифровому развитию по инициативе Минцифры может создать испытательную лабораторию. Процедуру оценки предполагается закрепить в акте правительства. Разработчик должен будет подать в лабораторию заявление и приложить документы с описанием архитектуры модели, данными о компании, сведениями о механизмах фильтрации и другими материалами.
После этого специалисты лаборатории проведут экспертизу: проверят ответы модели с помощью бенчмарков и оценят, можно ли обойти встроенные ограничения через промпт-инъекции. Под этим понимают способ манипулирования ИИ, при котором вредоносные инструкции внедряются во входные данные. По итогам проверки лаборатория направит в правительственную комиссию заключение о соответствии либо несоответствии ответов модели традиционным ценностям.
Положительное заключение станет одним из этапов присвоения модели статуса национальной или суверенной. Такой статус может открыть доступ к мерам государственной поддержки, в том числе к приоритету в государственных закупках и участию в особо значимых ИТ-проектах.
Проверка не станет всеобщей
Обязательная оценка всех представленных на рынке ИИ-моделей законом не предусмотрена. Проверять предполагается только разработки, претендующие на статус суверенных или национальных. Вместе с ним компании смогут рассчитывать на господдержку, доступ к данным государственных информационных систем и возможность приоритетного применения в отдельных отраслях, пояснил источник в Минцифры.
В АНО «Цифровая экономика» 7 августа называли образование и оказание государственных услуг первыми сферами для внедрения национальных и суверенных моделей ИИ.
Как отмечают источники, участники рынка договорились, что экспертизу не должна проводить единственная назначенная организация. Предполагается создать несколько лабораторий, прошедших аккредитацию у государственного органа. Требования к таким структурам пока прорабатываются совместно с бизнесом.
Сначала разработчик будет самостоятельно тестировать модель по общей риск-ориентированной методике и представлять результаты. Затем аккредитованная лаборатория оценит эти выводы и сможет выборочно проверить устойчивость модели. Окончательное решение о подтверждении соответствия и присвоении статуса национальной или суверенной модели останется за Минцифры. Требования безопасности для использования в государственных системах будут оценивать ФСБ и ФСТЭК с учётом изменений действующих нормативных актов.
В Минцифры рассчитывают опереться на инструменты, уже созданные крупнейшими российскими разработчиками. У компаний есть механизмы, ограничивающие запрещённые запросы и призванные обеспечивать соответствие ответов законодательству. Регулятор намерен использовать накопленную рынком экспертизу, а не формировать систему тестирования с нуля.
