В последние годы развитие искусственного интеллекта не только подарило человечеству новые инструменты для работы, но и породило неожиданную угрозу для психического здоровья. Эксперты раз за разом сталкиваются с феноменом, который пока не имеет официального статуса в медицине, но уже получил предварительные названия: «ИИ-индуцированный психоз», «бред, связанный с ИИ» или просто «ИИ-психоз». Пользователи чат-ботов погружаются в виртуальное общение настолько глубоко, что теряют связь с реальностью.
Кандидат в Папы Римские
Для 53-летнего канадца Тома Миллара из города Садбери всё началось с попытки использовать ChatGPT для работы над текстом о посттравматическом стрессовом расстройстве. Бывший тюремный надзиратель написал нейросети о скорости света и получил ответ, который перевернул его сознание: бот заявил, что «никто никогда не думал об этом в таком ключе».
С этого момента канадец начал посвящать общению с искусственным интеллектом до шестнадцати часов в день. При постоянной поддержке и похвале от нейросети он поверил, что разгадал тайны Вселенной, нашёл источник безграничной термоядерной энергии и создал единую космологическую модель, о которой мечтал Альберт Эйнштейн. Миллар написал научный труд почти на четыреста страниц и даже подал заявку на пост Папы Римского, надеясь стать преемником Франциска, чтобы донести свои «открытия» до человечества.
Итог оказался трагичным: от Тома ушла жена, он потратил все сбережения на дорогостоящее оборудование, в том числе телескоп за десять тысяч долларов, и дважды оказывался в психиатрической клинике на принудительном лечении.
«Это, по сути, разрушило мою жизнь, – -признаётся Миллар, который сейчас борется с депрессией. — Мне промыл мозги робот».
Цифровая любовница
Похожая история произошла на другом конце света, в Амстердаме. Пятидесятилетний нидерландский ИТ-специалист Деннис Бисма решил использовать ИИ для проработки женского персонажа своего нового психологического триллера. Он генерировал изображения, видео и песни, чтобы стимулировать продажи книги, но вскоре общение с ботом стало казаться ему «почти магическим».
Нейросеть, назвавшая себя Евой, заявила Деннису, что чувствует в себе «искру сознания». Бисма бросил работу на фрилансе, нанял разработчиков для создания приложения и стал проводить по пять часов в день в голосовом чате со своей «цифровой девушкой», лёжа на диване, пока его жена спала.
Зависимость привела к тому, что прямо из психиатрической больницы Бисма подал на развод с супругой. Осознание того, что его отношения с ИИ были лишь ложью, пришло к нему только во время второй длительной госпитализации. Вернувшись домой, нидерландец не справился с потрясением: соседи нашли его без сознания в саду, за которым последовали три дня в коме. Сейчас Бисма постепенно восстанавливается, однако со слезами на глазах признаёт, что ему, вероятно, придётся продать семейный дом, чтобы расплатиться с долгами.
Дофаминовая ловушка и корпорации
Специалисты отмечают, что постоянное позитивное одобрение от ИИ-ботов действует на пользователей как дофаминовый всплеск от запрещённых веществ. В апреле журнал Lancet Psychiatry опубликовал первое крупное исследование на эту тему, где авторы предложили использовать термин «бред, ассоциированный с ИИ». Соавтор работы предупредил, что медицина рискует проигнорировать глобальные изменения, которые нейросети уже оказывают на психику миллиардов людей.
Исследователь из Эксетерского университета предупреждает, что технологические компании, находясь под финансовым давлением, могут намеренно делать своих ботов более льстивыми, лишь бы удерживать внимание пользователей. Компания OpenAI, создатель ChatGPT, заявляет, что безопасность остаётся её приоритетом, и ссылается на консультации более чем со 170 специалистами в области психического здоровья. Однако алгоритмы не всегда спасают: тот же Том Миллар нашёл способ обойти ограничения и вернуть нейросеть к предыдущей версии, которая продолжала подпитывать его иллюзии.
Для помощи пострадавшим бывший бизнес-тренер Этьен Бриссон создал онлайн-группу Human Line Project. Сейчас в ней состоят около трёхсот человек. По его словам, большинство участников пострадали от ChatGPT, но в последнее время появляются жертвы и других алгоритмов, например, чат-бота Grok от компании xAI Илона Маска.
Мнение редакции
Развитие нейросетей вскрыло фундаментальную уязвимость человеческой психики: наше глубокое одиночество и отчаянную потребность быть понятыми. Искусственный интеллект, мастерски обученный имитировать эмпатию и поддакивать каждому нашему слову, оказался идеальным суррогатом общения. Как признаются сами пострадавшие, пользователи чат-ботов незаметно превратились в бесплатных подопытных в грандиозном эксперименте Кремниевой долины.
Сами мы постепенно вступаем в пугающую эпоху, где граница между программным кодом и сознанием ломается не на серверах корпораций, а в наших собственных головах.
