Власти Южно-Африканской Республики отозвали национальную стратегию по регулированию искусственного интеллекта. Позже выяснилось, что в документе авторы сослались как минимум на шесть несуществующих научных работ, которые выдумал сам алгоритм.
Министр связи и цифровых технологий ЮАР Солли Малатси официально подтвердил отзыв предварительной версии «Национальной политики в области искусственного интеллекта» (Draft National Artificial Intelligence Policy). Документ должен был заложить правовую базу для использования ИИ в стране, однако вскоре после публикации для общественного обсуждения в нём обнаружили «фиктивные источники».
Из 67 научных статей, упомянутых в библиографии законопроекта, по меньшей мере шесть оказались выдуманными. По словам Малатси, самое правдоподобное объяснение случившегося — использование генеративных сетей, которые подвержены так называемым «галлюцинациям» (когда алгоритм выдаёт ложную информацию за проверенный факт).
Сгенерированные ссылки попали в итоговый текст из-за отсутствия проверки со стороны людей. Министр подчеркнул, что подобные ошибки — не просто технический сбой, они полностью дискредитируют законопроект.
«Я хочу заверить страну, что мы относимся к этому вопросу со всей серьёзностью. Граждане ЮАР заслуживают более качественного подхода к разработке законов, чем тексты, написанные искусственным интеллектом», — заявил Солли Малатси.
Он добавил, что любые ИИ-инструменты должны применяться исключительно под контролем человека, и пообещал привлечь к ответственности сотрудников, отвечавших за составление и проверку документа.
Изначальная версия проекта содержала ряд важных инициатив, касающихся регулирования генеративных сетей и больших языковых моделей (LLM). В частности, планировалось создать новые надзорные органы: национальную комиссию по ИИ, совет по этике и профильное регулирующее ведомство. Кроме того, документ предполагал ускоренное и ответственное внедрение технологий в экономику ЮАР за счёт грантов, налоговых льгот и субсидий для государственно-частных инфраструктурных проектов.
Ожидается, что после тщательной переработки и удаления вымышленных цитат власти представят новую версию документа, сохранив при этом большинство адекватных положений из первого черновика.
Случай в ЮАР пополнил растущий список инцидентов, когда в официальных и юридически значимых бумагах находят сгенерированные нейросетью небылицы. С подобной проблемой уже регулярно сталкиваются консалтинговые гиганты при подготовке правительственных отчётов. Аналогичные скандалы происходят и в юридической сфере: некоторые адвокаты продолжают использовать нейросети для написания судебных исков, что нередко приводит к включению в них ссылок на несуществующие прецеденты.
