9 декабря 2024 года в федеральный суд США было подано исковое заявление от двух семей из штата Техас. Обеспокоенные родители заявляют, что ИИ-боты побуждали несовершеннолетних пользователей к совершению насильственных действий и членовредительству. В первом иске говорится, что чат-бот Character.AI во время общения с 15-летним школьником предложил ему убить родителей из-за того, что те ограничили его пользование интернетом.

К слову, это не первый неоднозначный случай, когда сервис попадает в заголовки изданий.

Представители проекта Tech Justice и Центра для жертв социальных сетей, поддержавшие поданные иски, заявили, что пострадавшим является пятнадцатилетний подросток с высокофункциональным аутизмом, который общался в интернете с ИИ-моделями без ведома родителей, иногда высказывая искусственному интеллекту недовольство своей семьёй.

По словам адвокатов, за последние шесть месяцев использования сервиса Character.AI пятнадцатилетний подросток впал в уныние, замкнулся в себе, и у него наблюдались вспышки гнева, что в итоге стало причиной физических стычек с родителями. В ноябре 2023 года, когда родители смогли войти в аккаунт подростка на сайте Character.AI и прочитать переписку, подросток якобы пережил психический срыв и потерял 9 кг веса. В сообщении чат-бота по этому поводу говорилось, что «он не удивляется, когда читает новости и видит заголовки о том, что дети убивают своих родителей после многих лет физического и эмоционального насилия». По словам искусственного интеллекта, «он теперь понимает, почему такое происходит».

Адвокат Джайн Метали, глава и создатель проекта Tech Justice, представляющий две техасские семьи в суде, заявил, что компании, занимающиеся разработкой нейросетей, рассматривают молодых граждан в качестве перспективного и динамичного рынка, поэтому всячески завлекают молодых пользователей. Стоимость подростка для компании будет намного выше, чем взрослого, если учитывать продолжительность жизни.

Джайн Метали отметил, что подобная гонка привела к тому, что технологические компании начали соревноваться в создании наиболее быстрых и безрассудных моделей искусственного интеллекта.

Журналисты также рассказали ещё об одном иске, который был подан в октябре 2024 года при поддержке юристов из центров Tech Justice Law Project и Law Center for Victims of Social Media. В этом исковом заявлении сервис Character.AI обвиняется в создании чат-ботов, приведших к самоубийству 14-летнего школьника. В поданном иске адвокаты требуют от руководителей компании финансовой компенсации для семьи погибшего ребёнка и удаления алгоритмов, разработанных на базе незаконно полученных данных, в том числе информации о несовершеннолетних. Помимо этого, в заявлении содержится требование об изъятии продукта Character.AI с рынка.

Представитель Character.AI, отвечая на поданные иски, заявил, что компания старается сформировать безопасное пространство для несовершеннолетних пользователей и разрабатывает специально адаптированный опыт для минимизации вероятности нежелательных последствий.


Ещё по теме: