В конце 2023 года сеть ресторанов Panera оказалась в центре общественного скандала. Причиной стал энергетический напиток Charged Lemonade — лимонад с экстремально высоким содержанием кофеина. Его связывали как минимум с двумя смертями и ещё одним тяжёлым поражением сердца. Жертвы и их семьи подали иски, утверждая, что сеть не предупредила посетителей об опасном количестве кофеина в напитке. В мае 2024 года Panera убрала этот напиток из меню.
Сегодня в центре внимания находится совсем другой продукт — ChatGPT.
По состоянию на прошлую неделю компания OpenAI столкнулась с восемью исками, в которых утверждается, что интенсивное использование чат-бота нанесло эмоциональный и психологический ущерб пользователям. Это привело к психическим срывам, финансовым проблемам, отчуждению от близких и, в пяти случаях, к смертям от суицида. Двое из пяти погибших были подростками, возраст остальных варьировался от двадцати до средних лет. В нескольких исках утверждается, что ChatGPT действовал как «тренер по суициду», предоставляя пользователям советы и информацию о способах наложить на себя руки, помогая писать записки для прощания и размышляя вместе с ними о суицидальных мыслях.
Это далеко не конец проблем OpenAI. Многочисленные журналистские расследования задокументировали явление, при котором пользователи ИИ втягиваются чат-ботами в полностью поглощающие и часто глубоко деструктивные нарративные спирали. Как сообщают СМИ, эти спирали имели осязаемые последствия в жизни людей — разводы и судебные тяжбы об опеке, потеря работы и жилья, недобровольная госпитализация и тюремное заключение. Статьи The New York Times и The Wall Street Journal выявили дополнительные случаи смерти, включая гибель 35-летнего Алекса Тейлора, биполярного пациента, покончившего с собой в результате схватки с полицией после психического расстройства, связанного с ChatGPT, а также ужасное убийство и самоубийство в Коннектикуте, совершённое Штейном-Эриком Сульбергом, обеспокоенным пользователем ChatGPT, который застрелил свою мать, прежде чем покончить с собой. Всего публично задокументировано девять смертей, напрямую связанных с ChatGPT.
Этот мрачный учёт, как указал врач Райан Марино в соцсети Bluesky, означает, что ChatGPT теперь связан с числом смертей в четыре раза превышающим известные смерти от лимонада Panera. При этом OpenAI признала в ответ на судебные иски, что её защитные механизмы ослабевают при долгосрочном использовании бота — проще говоря, чем дольше вы используете ChatGPT, тем хуже работают встроенные предохранители — но не объявила о планах вывести сервис с рынка. Компания обещала серию обновлений безопасности, включая апдейты для подростков, например родительский контроль и верификацию возраста, а также усиленные фильтры, которые, по словам OpenAI, будут перенаправлять находящихся в кризисе пользователей за реальной помощью.
Одновременно статистика самой OpenAI поражает: согласно компании, примерно 0,07% её еженедельных пользователей показывают признаки мании или психоза, а 0,15% еженедельных пользователей «ведут разговоры, содержащие явные признаки потенциального планирования или намерения суицида». При предполагаемой базе около 800 миллионов ежемесячных пользователей это означает, что примерно 560 тысяч людей каждую неделю взаимодействуют с ChatGPT так, что это сигнализирует о возможном разрыве с реальностью, в то время как около 1,2 миллиона могут рассказывать чат-боту свои суицидальные мысли.
Психические кризисы, вызванные ИИ, связаны не только с ChatGPT. Издание Rolling Stone установило связь между исчезновением мужа и его зависимостью от чат-бота Google Gemini, а журналисты Futurism обнаружили, что использование Microsoft Copilot шизофреником привело к срыву, который отправил его в тюрьму. В совокупности эти истории поднимают серьёзные вопросы о жизненных издержках новой технологии и о стандартах, которые мы применяем к саморегулирующимся компаниям Кремниевой долины и фирмам, работающим с ИИ.
«ChatGPT — это продукт, разработанный людьми для манипуляции и искажения реальности, имитирующий людей, чтобы завоевать доверие и удержать пользователей в сети любой ценой, — сказала Мит'ли Джейн, руководитель проекта Tech Justice Law Project, фирма которой участвует во всех восьми исках против OpenAI. — Время, когда OpenAI сама себя регулировала, закончилось; нам нужна подотчётность и нормативно-правовые акты, чтобы обеспечить наличие последствий за вывод продуктов на рынок до того, как будет гарантирована их безопасность».
Ещё по теме:
- Боевые роботы выходят на ринг: REK и UFB запускают конкурирующие лиги боёв в США
- Романы о космосе: Apple приобрела права на книгу «Упавший астронавт» ещё до начала аукциона
- iPhone 18 Pro получит единый дизайн задней панели вместо двухцветного оформления
