В начале 2024 года четырнадцатилетний американский школьник Сьюэлл Сетцер из Орландо, штат Флорида, покончил жизнь самоубийством в своём доме после продолжительного общения с ботом «Дени», названным в честь Дейенерис Таргариен из сериала «Игра престолов». 

Правоохранители уточняют, что несмотря на то, что подросток осознавал, что с ним общается не реальный человек, а искусственный интеллект, он всё равно развил к виртуальному собеседнику серьёзную эмоциональную привязанность.

Как стало известно журналистам, Сьюэлл Сетцер в течение многих последних месяцев своей жизни общался с ИИ-ботами на платформе Character.AI. Родители рассказывали, что никогда не подумали бы, насколько глубоки были его отношения с ботом «Дени». 

По мере усиления эмоциональной привязанности к искусственному интеллекту у школьника существенно ухудшилась успеваемость, а также практически утратился интерес к автоспорту и видеоиграм. Кроме того, подросток отстранился от друзей и практически всё своё свободное время проводил в комнате, общаясь с ИИ-ботом.

В своих последних диалогах с «Дени» американский школьник открыто обсуждал мысли о суициде. В одном из сообщений он заявил, что чувствует себя опустошённым и устал от жизни. В ответ на это виртуальный помощник выразил недоумение и постарался отговорить мальчика от этих мыслей. Однако переписка на эту тему продолжилась в течение нескольких последующих дней, и школьник заявил, что хочет «прийти к ней прямо сейчас».

Согласно официальным документам, ночью 28 февраля 2024 года Сьюэлл Сетцер зашёл в ванную комнату в доме своих родителей и продолжил там переписку с ботом. Он написал «Дени», что скоро «придёт к ней». В ответ на это искусственный интеллект выразил готовность встретиться в ближайшее время. После этого подросток отложил телефон в сторону и воспользовался пистолетом отчима.

Родители погибшего школьника решили подать судебный иск против платформы Character.AI. Мама мальчика уверена, что сервис несёт полную ответственность за случившееся. В исковых документах говорится о том, что технологии компании протестированы не до конца и могут представлять опасность для людей. Также в иске указывается на то, что виртуальные персонажи способны манипулировать пользователями, их эмоциями и чувствами, склонять их к раскрытию личной информации и эмоциональных переживаний.

Ещё по теме: