Юристы Палаты представителей США всё чаще получают на проверку проекты законов, подготовленные с помощью генеративного искусственного интеллекта. Как сообщает издание Politico со ссылкой на действующих и бывших сотрудников Конгресса, такие документы нередко содержат юридические ошибки, неточные формулировки и неверные ссылки на действующие нормы.
Основная нагрузка ложится на Office of Legislative Counsel (OLC) – Управление законодательных консультантов Палаты представителей. Его специалисты помогают конгрессменам и их аппаратам переводить политические инициативы на язык законопроектов. Однако с распространением ChatGPT, Claude и других сервисов сотрудникам приходится всё больше времени тратить не на подготовку новых текстов, а на исправление сгенерированных черновиков.
Собеседник издания, консультировавший сотрудников Конгресса по вопросам использования технологий, утверждает, что в ряде случаев на доработку подготовленного ИИ текста уходит больше времени, чем потребовалось бы на написание документа с нуля. При этом сотрудники аппаратов законодателей и внешние лоббистские группы всё активнее применяют нейросети для анализа и составления законодательных предложений.
«ИИ полезен для многих задач, но он не способен подготовить законопроект, который стоило бы принимать как закон», – отметил исполнительный директор некоммерческой организации American Governance Institute Дэниел Шуман.
Ведущий демократ в Комитете Палаты представителей по административным вопросам Джо Морелл подчеркнул, что искусственный интеллект не может заменить профессиональных сотрудников OLC. Его коллега по комитету Норма Торрес предупредила: чрезмерная зависимость от сгенерированного текста способна привести к ошибкам, непредвиденным правовым последствиям и формулировкам, не отражающим реальную цель автора инициативы. По её словам, ответственность за внесённый законопроект остаётся за членом Конгресса и его аппаратом, и «её нельзя передать чат-боту».
Цена юридической неточности
Подготовка законов требует работы с множеством тонких различий, которые генеративные модели часто не распознают. Бывший руководитель OLC Уэйд Баллу, возглавлявший ведомство с 2016 по 2024 год, привёл пример мер финансовой поддержки: налоговый кредит, налоговый вычет, налоговое исключение и грант могут казаться близкими понятиями, но в законодательстве они имеют разные правовые последствия.
Ошибки возникают и при определении круга получателей федеральных программ. Например, если в документе под «штатами» понимаются только 50 штатов, из сферы действия закона могут непреднамеренно выпасть округ Колумбия и племенные образования. Ещё один распространённый риск – неправильные ссылки на разделы Свода законов США. Юрист и технолог Ари Хершовиц назвал такие неточности гарантированным способом внести в правовую систему тысячи новых ошибок.
Если расплывчатые или неверные положения всё же попадут в закон, федеральным ведомствам и судам будет сложнее определить, как их исполнять. Конгрессу в таком случае придётся возвращаться к уже принятым актам и исправлять последствия некачественной подготовки текста.
Непрозрачное использование нейросетей
Масштабы применения генеративного ИИ в Конгрессе трудно оценить ещё и потому, что сотрудники аппаратов не всегда сообщают о такой практике. Один из собеседников издания отметил, что использование нейросетей по-прежнему воспринимается как чувствительная тема, а полностью сгенерированные законопроекты становятся «медвежьей услугой» для всего законодательного процесса.
В июне внимание к этой проблеме привлёк эпизод с республиканкой от Флориды Анной Паулиной Луной. Её критиковали за публикацию резюме поправки, созданного с помощью Claude. Конгрессвумен заявила, что сам текст поправки нейросеть не писала, но признала, что многие сотрудники используют такие инструменты, и поручила своему аппарату тщательнее перепроверять результаты.
Технологии для проверки, а не для замены юристов
OLC не отказывается от технологий. Управление создало рабочую группу, которая изучает возможность использовать ИИ для повышения эффективности, в частности при юридических исследованиях. В его системах уже применяется Comparative Print Suite – программа, позволяющая увидеть, как предлагаемый законопроект изменит Свод законов США.
Законопроекты часто содержат инструкции по исключению одних фрагментов действующего законодательства и добавлению других. Comparative Print Suite с помощью обработки естественного языка визуализирует предполагаемые изменения. Хершовиц, участвовавший в разработке инструмента, называет его первым ИИ-решением в Палате представителей и подчёркивает принципиальное отличие от массовых генеративных сервисов: если программа не может достоверно определить место для поправки, она выдаёт сообщение об ошибке, а не делает предположение.
Директор по стратегическому развитию компании Granicus Шарлотт Ли, участвовавшая в создании Comparative Print Suite, отмечает, что инструмент адаптировали к потребностям OLC через интервью с пользователями и регулярные встречи с сотрудниками управления. По её оценке, такой подход должен сократить число ошибок и помочь внедрить систему в законодательной ветви власти. В Сенате доступ к программе пока имеет лишь ограниченное число сотрудников.
Предполагается, что наиболее разумное применение ИИ в этой сфере – помощь профессиональным составителям законов, а не их замена. Нейросети способны ускорить поиск и обработку информации, но не могут воспроизвести «искусство подготовки законодательных текстов». Хершовиц предупреждает, что даже при отсутствии явных ошибок массовое производство черновиков с помощью ИИ будет только увеличивать нагрузку на OLC: проблему, уже достигшую высокого уровня, технология может многократно усугубить.
