Судебная система США становится всё менее терпимой к адвокатам, которые используют искусственный интеллект для подготовки документов, не проверяя их достоверность. Последние случаи всё чаще показывают, что ИИ может «галлюцинировать» — создавать вымышленные дела и ссылаться на них, что приводит к серьёзным последствиям для юристов.
После того как в прошлом месяце адвоката поймали на цитировании несуществующих дел в судебных документах, на неделе ещё один юрист был оштрафован на $15 000 за аналогичные ошибки, допущенные в нескольких ходатайствах.
Адвокат Рафаэль Рамирес, представлявший компанию HoosierVac в деле против фонда Mid Central Operating Engineers Health and Welfare Fund, подал в октябре 2024 года ходатайство, где сослался на дело, которого судья не смог найти. По словам судьи Марка Динсмора, федерального магистрата округа Южной Индиана, Рамирес «признал, что указанная ссылка была ошибочной», отозвал её и «извинился перед судом и противоположной стороной за путаницу». Однако это не стало концом истории. «Исчерпывающий пересмотр» других документов Рамиреса по делу показал, что он также включил вымышленные дела в два других ходатайства.
«Господин Рамирес объяснил, что ранее использовал ИИ для помощи в юридических вопросах, таких как составление соглашений, и не знал, что ИИ способен генерировать фиктивные дела и ссылки на них», — написал судья Динсмор в документах. «Эти 'галлюцинационные ссылки', по словам господина Рамиреса, включали фрагменты текста, которые казались достоверными. Поэтому господин Рамирес не проводил дополнительных исследований и не пытался проверить существование сгенерированных ссылок на дела. Он сообщил, что с тех пор прошёл курсы повышения квалификации по использованию ИИ и продолжает использовать ИИ-продукты, которые, как его заверили, не будут подвержены таким "галлюцинациям"».
Однако объяснения Рамиреса и его обещание обучиться правильному использованию ИИ оказались недостаточными. Судья упрекнул его за то, что он не проверил информацию перед подачей документов.
«Совершенно очевидно, что господин Рамирес не провёл необходимого разумного исследования закона. Если бы он приложил хотя бы минимальные усилия, он обнаружил бы, что сгенерированного ИИ дела не существуют. То, что сгенерированные фрагменты казались господину Рамиресу достоверными, не освобождает его от обязанности провести разумное исследование», — продолжил судья Динсмор, рекомендуя наложить на Рамиреса штраф в размере $15 000.
Судья подчеркнул, что его замечания «не направлены на то, чтобы предположить, что ИИ в принципе плох или что его использование адвокатами должно быть запрещено». Он отметил, что сам является сторонником использования технологий в юридической профессии.
«Тем не менее, как и в случае с бензопилой или другими полезными, но потенциально опасными инструментами, необходимо понимать, какие инструменты вы используете, и применять их с осторожностью», — отметил он. «Само собой разумеется, что любое использование искусственного интеллекта должно соответствовать этическим и профессиональным обязанностям адвокатов. Другими словами, использование ИИ должно сопровождаться применением реального интеллекта при работе».
В январе в рамках другого дела, связанного с производителем гироскутеров и Walmart, адвокаты подали документы, ссылаясь на серию несуществующих дел. В феврале федеральный судья потребовал от них объяснить, почему они не должны быть наказаны за ссылки на восемь несуществующих дел. Адвокаты признали свою ошибку, объяснив, что использовали ИИ не заметив ошибок, и назвали этот случай «предупредительной историей» для всей юридической профессии.
На прошлой неделе судья наложил санкции на этих адвокатов. Один из них лишился права практики в данном деле, а трое других были оштрафованы на суммы от $1 000 до $3 000 каждый.
Такие случаи продолжают подчёркивать растущую необходимость для юристов внимательно проверять результаты работы ИИ и соблюдать профессиональную этику, чтобы избежать дорогостоящих ошибок и дисциплинарных мер.
Ещё по теме:
- В Петербурге с 4 марта оплатить проезд биометрией можно на двух станциях метро
- Microsoft показала Dragon Copilot – ИИ-ассистента для медицинских учреждений
- Из Super Mario Bros. сделали новый бенчмарк для ИИ
