Голландца оштрафовали на 380 евро после того, как камера с искусственным интеллектом поймала его за разговором по телефону во время управления автомобилем. Правда, он утверждает, что всего лишь почесал голову, а система допустила ошибку.
В ноябре прошлого года Тим Хансен получил штраф за то, что месяцем ранее якобы разговаривал по мобильному телефону за рулём. Он был шокирован, главным образом потому, что не помнил, чтобы пользовался телефоном за рулём в тот день, и решил проверить инкриминирующую фотографию на сайте Центрального агентства судебных взысканий. На первый взгляд кажется, что Тим действительно разговаривает по телефону, но при ближайшем рассмотрении выясняется, что на самом деле он ничего не держит в руке. Мужчина просто почесывал затылок, а камера приняла положение его руки за держащую телефон. Ещё большее недоумение вызвал тот факт, что человек, проверивший снимок и подтвердивший его правильность, также не заметил «ложного срабатывания».
Хансен, работающий в сфере информационных технологий и создающий алгоритмы для редактирования и анализа изображений, использовал свой личный опыт, чтобы объяснить, как работает система полицейских камер Monocam и почему она может допускать ошибки. Несмотря на то что он не мог лично протестировать систему, он объяснил, как она устроена и почему может делать ложные срабатывания.
«В моём случае ИИ-модель показала, что я держу в руках телефон, хотя это не так. Тогда мы говорим о ложном срабатывании. Идеальная модель предсказывает только истинно положительные и истинно отрицательные результаты, но 100%-но правильное определение встречается редко», – написал Тим.
Как пояснил IT-специалист, системы, подобные Monocam, должны обучаться на большом наборе изображений, разделённых на две или три группы: обучающий набор, проверочный набор и тестовый набор. Первый набор используется для обучения алгоритма тому, какие объекты находятся на тех или иных изображениях и какие свойства (цвета, линии и т. д.) им присущи, второй – для оптимизации ряда параметров алгоритма, а третий – для проверки того, насколько хорошо система работает на самом деле.
«Алгоритм, который мы использовали, и алгоритм полиции могут заподозрить наличие телефона, потому что в обучающем наборе данных есть много примеров людей, звонящих с телефоном в руке возле уха», – рассказал Тим. «Вполне возможно, что в наборе обучающих данных мало или вообще нет фотографий людей, сидящих с пустой рукой у уха. В таком случае для алгоритма становится менее важным, действительно ли телефон находится в руке, но достаточно, чтобы рука была рядом с ухом. Чтобы улучшить ситуацию, следует добавить больше фотографий, на которых рука пуста».
Хансен утверждает, что из-за множества переменных, которые могут повлиять на решение алгоритма, для минимизации количества ложных срабатываний необходим человеческий фильтр. Только в его случае штраф был подтверждён человеком после анализа снимка, сделанного камерой, так что и это тоже не является надёжным решением.
Голландский водитель оспорил штраф и рассчитывает на положительный исход, но теперь ему придётся ждать официального решения до 26 недель. Его дело получило широкую огласку в Нидерландах и соседних странах, таких как Бельгия, где некоторые учреждения требуют установки камер, способных фиксировать использование мобильных телефонов во время вождения, но история Тима доказывает, что они далеко не на 100% надёжны.
Ещё по теме:
- Разработчики Wuthering Waves поделились вступительными роликами своего проекта
- Российские сайты и форумы начали удалять всю информацию о VPN-сервисах
- Афганские сайты перестают работать из-за проблем с оплатой
