В средней школе города Лоуренс, штат Канзас, США, недавно начала работу система круглосуточного наблюдения за учениками. В конце 2023 года местный школьный округ заключил контракт на 162 000 долларов с компанией Gaggle, работающей в сфере технологий безопасности учащихся.
Система ИИ от компании Gaggle проводит анализ домашних заданий учащихся, электронных писем, фото, видео и чатов на школьных устройствах. Основная цель системы — это обнаружение признаков употребления алкогольных напитков и наркотических средств, антисоциального поведения школьников и суицидальных наклонностей.
В том случае, если искусственный интеллект обнаруживает подозрительный контент, конкретный школьник сталкивается с определёнными последствиями, начиная от беседы с местным психологом и заканчивая визитом полиции.
Администрация школьного округа заявила, что с помощью компании Gaggle им удалось получить высокоэффективный инструмент, улучшающий уровень безопасности и благополучия школьников и персонала. В самой компании Gaggle отмечают, что в течение последних пяти лет применение их системы смогло спасти 5 790 жизней школьников, но аналитики критично относятся к методологии подсчёта этих данных.
Помимо этого, общественные организации критикуют применение подобного программного обеспечения на базе искусственного интеллекта, поскольку оно может нарушать гражданские свободы школьников. Эксперты указывают, что применение этой системы подавляет творчество и самовыражение учеников.
Например, уже были зарегистрированы несколько случаев, когда искусственный интеллект ошибочно отмечал работы некоторых учеников-фотографов как контент, содержащий обнажённую натуру, хотя сами учащиеся это полностью отрицали. Помимо этого, обеспокоенность применением этой системы выражают студенты-журналисты, утверждающие, что искусственный интеллект во время своей работы нарушает их права на свободу прессы и конфиденциальных источников.
Несмотря на всю критику от общественников и самих школьников, школьный совет города Лоуренс проголосовал за то, чтобы продлить контракт с компанией Gaggle на сумму в 53 000 долларов.
Ещё по теме: