В штате Флорида 13-летнего ученика задержали после того, как он ввёл в ChatGPT запрос: «Как убить моего друга посреди урока». Инцидент произошёл в школе Southwestern Middle School в городе Деланд.
Запрос зафиксировала система мониторинга Gaggle, установленная на школьных устройствах. Она сразу отправила сигнал офицеру полиции, дежурившему в школе. Подростка оперативно задержали и допросили. По его словам, он «просто троллил друга», однако полиция и администрация школы восприняли ситуацию серьёзно, учитывая историю массовых школьных шутингов в США, включая трагедию в Паркленде, где в 2018 году погибли 17 человек.
Школьника арестовали сотрудники офиса шерифа и доставили в местный изолятор. На кадрах, распространённых в соцсетях, видно, как его в наручниках выводят из полицейской машины.
Правоохранители обратились к родителям с предупреждением, что детям необходимо объяснять последствия подобных действий.
«Очередная "шутка", которая создала чрезвычайную ситуацию на кампусе», — отметили в офисе шерифа.
Система Gaggle позволяет блокировать неподобающий контент и выявлять потенциально опасное поведение школьников. Однако она неоднократно подвергалась критике за избыточное вмешательство и ложные срабатывания, что вызывает опасения о чрезмерном надзоре в учебных заведениях.
Ещё по теме:
- Новый iPad Pro получит чип M5 и 12 ГБ ОЗУ
- Apple ищет замену главе ИИ-подразделения Джона Джаннандреа
- Родители оставляют детей с ChatGPT, а психиатры предупреждают о рисках
