Юридическая система США столкнулась с новой угрозой: фейковые документы, созданные ИИ, всё чаще проникают в суды. В одном из недавних случаев в Джорджии адвокат представил суду проект решения, содержащий ссылки на несуществующие дела — вероятно, сгенерированные нейросетью наподобие ChatGPT. Судья подписал этот документ, после чего вынес решение в пользу мужа в бракоразводном процессе.
Лишь на стадии апелляции выяснилось, что часть цитируемых дел была вымышленной. Судья Джефф Уоткинс отменил постановление и оштрафовал адвоката на $2500, назвав использование фейковых ссылок «галлюцинациями искусственного интеллекта».
И это не единичный случай: в феврале другой юрист был оштрафован на $15 000 за аналогичную ошибку. Эксперты предупреждают: с ростом доступности ИИ такие инциденты будут учащаться. Нейросети часто выдают выдуманные факты с полной уверенностью — и, если раньше это вызывало проблемы в школах и СМИ, теперь ИИ добрался и до судов.
Особенно опасна такая практика в условиях перегруженности. Во многих округах США судьи утверждают проекты решений, составленные адвокатами, не проверяя каждую ссылку. А если автором документа выступает самопредставляющийся гражданин, использующий ИИ, то риск только возрастает.
Пока лишь два штата — Мичиган и Западная Вирджиния — требуют от судей базовой техграмотности в работе с ИИ. Некоторые судьи уже запрещают использовать нейросети без указания, но такие меры разрозненные и плохо исполняются.
Хуже всего то, что ИИ способен создавать правдоподобные ссылки, несуществующие названия дел и юридические формулировки, которые трудно отличить от реальных.
Исследователи, включая специалистов из Принстона, пытаются создать инструменты для выявления ИИ-генерированных ошибок. Обсуждаются и «системы поощрений» для тех, кто будет находить поддельные ссылки.
Пока же история из Джорджии служит предупреждением: ИИ в судах — не просто курьёз, а реальная угроза доверию к правосудию.
Ещё по теме:
- Госдума утвердила штрафы за поиск экстремистских материалов и рекламу VPN
- В России распространяется схема мошенничества с фейковыми вакансиями на OnlyFans
- В Госдуме предложили разработать госпрограмму по переносу данных из WhatsApp и Telegram в мессенджер MAX
