Правозащитные организации в открытом письме просят Zoom отказаться от ИИ для отслеживания эмоций

Некоммерческая организация по защите цифровых прав Fight for the Future («Борьба за будущее») и 27 других правозащитных организаций обратились с открытым письмом к Zoom, в котором просят компанию не продолжать исследования по использованию искусственного интеллекта, способного анализировать эмоции.

Организации написали письмо в ответ на протокольный отчёт, в котором говорится, что Zoom активно изучает возможности включения эмоционального ИИ в свой продукт в будущем. Это часть более крупного материала, в котором рассматривается, как компании начали использовать искусственный интеллект для определения эмоционального состояния потенциального клиента во время звонков по продажам.

Пандемия сделала видеоконференции гораздо более распространёнными по всему миру. Однако продавцам было трудно определить, насколько потенциальные клиенты восприимчивы к их товарам и услугам, не имея возможности прочитать язык их тела через экран. В результате компании начали использовать технологии, позволяющие анализировать настроение людей во время разговора, Zoom планирует предоставить такую же услугу.

Правозащитные организации надеются, что их призыв заставит компанию Zoom отказаться от своих планов. Они назвали технологию «дискриминационной, манипулятивной, потенциально опасной и основанной на предположениях, что все люди используют одинаковые выражения лица, голос и язык тела».

Они также отметили, что эта технология, как и распознавание лиц, по своей сути является предвзятой и расистской. Включив эту функцию, Zoom будет дискриминировать определённые этнические группы и людей с ограниченными возможностями. Кроме того, эта функция может быть использована для наказания студентов или работников, если они проявляют неправильные эмоции.

В 2021 году проект под руководством профессора Кембриджского университета Алексы Хагерти показал, насколько ограничены возможности ИИ, распознающего эмоции, и как легко их обмануть. Предыдущие исследования также показали, что программы распознавания эмоций проваливают тест на расовую предвзятость и с трудом считывают лица темнокожих.

В конце письма группа упомянула о решении Zoom отменить развёртывание функций отслеживания лиц и назвала это ещё одной возможностью поступить правильно по отношению к своим пользователям. Теперь они просят Zoom взять на себя обязательство не внедрять искусственный интеллект определения эмоций в свой продукт.