Как ИИ-технология разрушила судьбу невиновного американца

Мужчина провёл за решёткой более 16 месяцев

1 мин.
Как ИИ-технология разрушила судьбу невиновного американца

В городе Сент-Луис (штат Миссури, США) программа для распознавания лиц стала причиной ареста 29-летнего Кристофера Гэтлина. Молодого человека обвинили в нападении на охранника на платформе метро. Основным доказательством стало изображение с камеры наблюдения, обработанное системой искусственного интеллекта. При этом никаких прямых доказательств его вины представлено не было.

Журналисты The Washington Post сообщили, что полиция города проигнорировала собственные инструкции, запрещающие полагаться исключительно на выводы ИИ. Следователь Маттью Шут, использовавший алгоритм для идентификации, настоял на задержании мистера Гэтлина.

В результате мужчина провёл за решёткой более 16 месяцев, пока суд не признал выводы ИИ-системы недействительными. Этот инцидент стал частью череды случаев, когда применение технологий распознавания лиц привело к арестам невиновных. На данный момент известно не менее восьми подобных ситуаций.

Расследование выявило, что полиция в ряде американских городов активно пользуется подобными программами, игнорируя необходимость подтверждения их выводов. В 15 из 23 проанализированных случаев задержания были осуществлены исключительно на основе данных ИИ. Более того, в некоторых ситуациях полицейские пренебрегали вескими уликами вроде ДНК-анализа или алиби подозреваемых.

Специалисты обратили внимание на частые ошибки ИИ-алгоритмов, особенно при работе с изображениями темнокожих американских граждан и лиц с азиатской внешностью. Вероятность неправильной идентификации для них оказывается в сотни раз выше, чем для белых мужчин. Недоработки в обработке данных, а также излишняя уверенность сотрудников в «безупречности» технологий угрожают базовым правам людей.

Эксперты подчёркивают, что отсутствие контроля за использованием подобных систем увеличивает риск несправедливых обвинений. Несмотря на рост жалоб, правоохранительные органы зачастую скрывают детали применения этих технологий и неохотно раскрывают информацию о результатах их работы.

Освобождение Кристофера Гэтлина стало возможным за счёт усилий адвоката, который доказал ненадёжность предъявленных улик. Но этот случай наглядно продемонстрировал серьёзные проблемы в регулировании использования ИИ в американской полиции. Профильные эксперты призывают к пересмотру текущих практик, чтобы исключить подобные трагические ошибки в будущем.


Ещё по теме:

Мы в Telegram, на Дзен, в Google News и YouTube