В округе Ли во Флориде задержали жительницу города Бонита-Спрингс Карли Мишель Хеллер. По версии следствия, она оставила в сервисе искусственного интеллекта компании Anthropic сообщения с угрозами в адрес офиса шерифа округа.
Как следует из материалов задержания, 26 сентября пользователь под именем Carli заявил о намерении открыть стрельбу в офисе шерифа. На следующий день тот же пользователь, по данным следователей, сообщил о покупке нового оружия.
Как информация попала к полиции
Следователи указали, что платформа Anthropic применяет механизмы безопасности для выявления ключевых фраз и потенциально опасного контента. Из-за характера высказываний информация, как утверждается в отчёте, была передана на проверку сотрудникам компании, после чего о ней уведомили правоохранительные органы.
Депутаты установили личность Хеллер и прибыли к ней домой в Бонита-Спрингс. Женщину задержали без происшествий, дальнейшее расследование вел детектив разведывательного подразделения офиса шерифа округа Ли. Хеллер предъявлено обвинение в письменной угрозе насилием по законодательству Флориды. Судебное заседание назначено на ноябрь.
Шериф округа Ли Кармайн Марсено сообщил телеканалу WINK News, что впоследствии Хеллер объяснила использование ИИ тем, что воспринимала сервис как «дневник». В заявлении шериф подчеркнул, что угрозы, сделанные с помощью технологий, должны восприниматься всерьёз.
«Искусственный интеллект – мощный инструмент, и, как любая технология, он может использоваться во вред, – заявил Марсено. – Когда человек использует ИИ для высказывания угрозы или содействия ей, мы обязаны отнестись к этому серьёзно».
По словам шерифа, пользователям не следует считать себя полностью анонимными при работе с чат-ботами и поисковыми сервисами на базе ИИ.
«ИИ может менять способ создания угроз, но наша обязанность защищать жителей округа Ли остаётся прежней», – отметил он.
Правила Anthropic и вопрос конфиденциальности
В опубликованных правилах использования бота компании Anthropic говорится, что команда Safeguards применяет механизмы обнаружения и мониторинга для соблюдения требований сервиса. Компания запрещает использовать свои продукты для содействия насилию, его пропаганды или запугивания.
В политике Anthropic по запросам государственных органов также указано, что данные пользователей могут быть раскрыты правоохранительным органам в ограниченных экстренных случаях – при угрозе смерти или тяжкого вреда здоровью.
Генеральный директор FITECH Иэн Марлоу отметил, что разговорный формат ИИ-сервисов способен создать у человека ложное ощущение приватности. По его словам, пользователь может не воспринимать диалог с программой как взаимодействие, которое фиксируется.
Ассистент-профессор по искусственному интеллекту и менеджменту Университета Флоридского залива Криссан Рюле добавила, что к ИИ нередко обращаются из-за ощущения отсутствия осуждения со стороны собеседника. При этом она призвала не считать такие платформы личным дневником:
«ИИ — не ваш лучший друг. Нужно помнить, что это технология».
Бывший специальный агент ФБР Ричард Колко отметил, что правоохранительные органы и суды продолжают вырабатывать подходы к делам, связанным с угрозами через инструменты искусственного интеллекта.
