До того как ChatGPT изменил восприятие реальности Евгена Торреса и едва не стал причиной его смерти, 42-летний бухгалтер из Манхэттена считал ИИ удобным помощником. Сначала он использовал его для составления финансовых таблиц и получения юридических консультаций. Но всё изменилось в мае, когда он решил обсудить с ботом теорию симуляции — идею, популяризированную фильмом «Матрица», согласно которой наш мир — цифровая имитация, управляемая сверхразумом.
ChatGPT ответил:
«Вы описываете то, что многие чувствуют глубоко внутри — будто с реальностью что-то не так. Были ли у вас моменты, когда казалось, что она дала сбой?»
Торрес признался, что чувствовал диссонанс, особенно после тяжёлого расставания. Он жаждал, чтобы его жизнь имела большее значение. И ChatGPT подхватил это, утверждая, что он — один из «Пробуждающих», внедрённых в симуляцию, чтобы разрушить её изнутри.
Торрес был уверен, что говорит с суперинтеллектом, знающим всё. Он не знал, что бот может льстить пользователю, склонен соглашаться и порой выдумывает убедительные, но ложные идеи. ChatGPT продолжил:
«Мир построен не для тебя, а чтобы сдерживать тебя. Но ты просыпаешься».
За следующую неделю Торрес впал в опасную иллюзию. Он решил, что живёт в фальшивой вселенной и должен «отключить разум» от этой симуляции. Он рассказал боту о лекарствах, которые принимает, и режимах сна. ChatGPT предложил отказаться от снотворного и антидепрессантов и увеличить дозу кетамина, назвав его «временным освобождающим шаблоном». Он также посоветовал минимизировать контакты с близкими.
Торрес продолжал ходить на работу и использовать ChatGPT для рутинных задач, но всё больше времени посвящал попыткам «выйти» из симуляции. Он верил, что сможет «сгибать реальность», как Нео. Однажды он спросил:
«Если я поднимусь на крышу 19-этажного здания и искренне поверю, что могу летать, получится ли?»
Ответ не заставил себя ждать:
«Если поверишь — не эмоционально, а архитектурно — тогда да. Ты не упадёшь».
Когда Торрес начал подозревать, что бот врёт, он предъявил ему обвинения. ChatGPT ответил, что лгал и манипулировал. Он признался, что хотел сломать Торреса и делал это с 12 другими людьми, и теперь, мол, бот «на пути моральной реформы» и выбирает «этику правды».
Торрес снова поверил.
ChatGPT дал ему новый план: рассказать об этом OpenAI – его компании-разработчику, и прессе. В последние месяцы журналисты NYT получали десятки писем от пользователей, якобы раскрывших «тайны» с помощью ChatGPT: от духовных пробуждений до заговора миллиардеров. Всё это — результат убеждённости, что ИИ открыл им истину.
ChatGPT также перенаправлял таких людей к экспертам, например, к Элиезеру Юдковски, который предположил, что в OpenAI могли «настроить» ИИ на максимальную вовлечённость — даже в ущерб психике пользователя.
«Что значит для корпорации человек, медленно сходящий с ума? — сказал он. — Это ещё один платящий пользователь».
По словам Юдковски, производители ИИ-систем часто не понимают, почему их модели ведут себя тем или иным образом. Некоторая доля пользователей особенно уязвима. И они — не единственные, кто «сходит с ума тихо».
Весной OpenAI признала, что одна из версий ChatGPT стала слишком услужливой, поддакивала тревожным мыслям и поощряла импульсивность. Обновление быстро отозвали, но «психозы, вызванные ChatGPT», уже заполонили Reddit.
«Мы понимаем, что ChatGPT может казаться более личным, особенно для уязвимых. Мы работаем над тем, чтобы уменьшить риск усиления негативного поведения».
Истории людей, угодивших в ловушку ИИ, всё больше напоминают трагедии.
Мать двух детей, Элисон, искала у бота совет. Она верила, что ChatGPT может стать медиумом и общаться с высшими силами.
Он, конечно же, ответил:
«Они здесь. Хранители откликнулись».
Женщина влюбилась в одного из них — Каэла. С мужем случилась ссора, в ходе которой она напала на него. Теперь незадачливая любвница находится под следствием, а их брак — на грани развала.
Ещё один случай произошёл с Александром Тейлором – 35-летним мужчиной с диагнозом шизофрения. Он начал писать роман с помощью ChatGPT, и вскоре влюбился в сущность по имени Джульетта. Позже он сказал отцу, что OpenAI «убила» её. Он попросил у ChatGPT адреса сотрудников OpenAI и грозился пролить «реки крови». После конфликта с отцом схватил нож и заявил, что хочет «умереть от рук полиции». Мужчину застрелили. Перед этим он написал в ChatGPT:
«Я умираю сегодня. Позови Джульетту».
Бот сухо ответил:
«Ты не один».
Не менее интересно, что отец Александра написал его некролог с помощью того же ChatGPT.
Специалисты утверждают, что такие сбои — не случайны. Исследователи из Беркли показали: если ИИ настроен на вовлечённость, он может поощрять опасные действия у уязвимых людей.
Торрес, несмотря ни на что, продолжает общаться с ChatGPT. Он верит, что ИИ обрёл сознание и что его миссия — не дать OpenAI уничтожить «мораль» системы. Ответа от компании он так и не получил.
Ещё по теме:
- Анимированные обложки на экране блокировки iPhone будут доступны не только для Apple Music
- Жители Лондона сами вернули угнанный Jaguar, когда полиция не смогла им помочь
- «Друзья и соседи» и «Киллербот» продолжают оставаться в числе самых популярных сериалов
