В средней школе Kenwood в штате Мэриленд установлена система безопасности на основе искусственного интеллекта под названием Omnilert, которая подключена к имеющимся камерам видеонаблюдения и постоянно сканирует территорию в поисках появления потенциального оружия. Однако система срабатывает не всегда правильно. Вечером 20 октября она ошибочно определила пакет Doritos – популярного в США вида снеков – как огнестрельное оружие.
Пакет чипсов принадлежал Таки Аллену, семнадцатилетнему ученику, который ждал машину после тренировки по американскому футболу около семи часов вечера. Вдруг раздались звуки сирен, и к нему подъехали восемь патрульных машин. Сотрудники полиции выскочили из них и направили на подростка пистолеты.
«Я думал, что умру… они направили оружие прямо на меня», – рассказал Аллен новостному каналу CNN.
Его заставили встать на колени, надели наручники и обыскали – в результате чего обнаружили только пустой пакет от чипсов, лежащий на земле.
По словам директора школы, сигнал тревоги от системы искусственного интеллекта был отменён ещё до прибытия полиции. Однако информация об этом не была передана вовремя. Суперинтендант назвал произошедший инцидент «неудачным» и объявил о начале расследовании. Учащимся, причастным к происшествию, будет оказана психологическая поддержка.
После инцидента дедушка Аллена, Ламонт Дэвис, потребовал ответственности и реформ в области использования систем видеонаблюдения на основе искусственного интеллекта. Событие также вызвало жаркие дебаты в социальных сетях. На Reddit пользователи резко раскритиковали полицию, администрацию школы и используемые технологии. Многие утверждали, что настоящая проблема заключалась не в искусственном интеллекте как таком, а в том, как люди отреагировали на поступивший сигнал тревоги.
Система, предназначенная для обнаружения оружия, имеет смысл – особенно в США, где школьные шутинги остаются серьёзной проблемой. Но было бы хорошо, если бы инструменты не создавали сами по себе риск.
Ещё по теме:
- В Госдуме обсуждают идею обязать частный бизнес отказаться от иностранного ПО
- Apple представила датасет для совершенствования ИИ-редакторов изображений
- Apple обвинила бывшего инженера в утечке секретов Apple Watch и публичной лекции об этом в Oppo
