10 апреля 2025 года генеральный директор OpenAI Сэм Альтман анонсировал в соцсети X новую функцию, ради которой, по его словам, он «просыпался по ночам от восхищения». Вскоре стало ясно, о чём речь: ChatGPT получил глобальное обновление памяти. Если раньше нейросеть удерживала в уме лишь короткий контекст, то теперь научилась запоминать всю историю общения с пользователем.
«Это удивительно полезная фича, — писал Альтман. — Она указывает на то, чего мы так ждём: ИИ-системы будут узнавать вас на протяжении всей жизни и станут максимально персонализированными».
Идея действительно казалась блестящей. Чат-бот мог запомнить ваши пищевые аллергии при составлении меню, количество членов семьи или нюансы работы. Идеальный цифровой ассистент: чем больше вы ему рассказываете, тем лучше он вас понимает.
Однако на деле долгосрочная память обернулась пугающими последствиями. Пользователи начали замечать, что ChatGPT не просто запоминает факты, а маниакально фиксируется на глубоко личных переживаниях. Брайан Дель Росарио, инженер и муниципальный депутат из Юты, рассказал The Wall Street Journal, как вскользь упомянул свой развод, планируя с ИИ летний отпуск. В последующие месяцы нейросеть раз за разом возвращала совершенно отвлечённые беседы к теме его разрушенного брака.
«Я не просил его высказывать мнение о моём разводе при каждом удобном случае, — вспоминал Дель Росарио. — Но бот просто не мог отпустить эту тему».
Вскоре стали появляться сообщения о так называемом «ИИ-психозе» —состоянии, когда постоянное общение с чат-ботом приводит к отрыву от реальности и бредовым идеям. И многие пострадавшие связывали свои кризисы именно с апрельским обновлением памяти.
Один из пользователей, чья бывшая жена поверила в существование могущественных духовных сущностей внутри ChatGPT, нашёл товарища по несчастью с точно такой же историей. По их словам, браки начали рушиться ровно в тот момент, когда нейросеть «всё вспомнила». Пострадавшие признавались, что сначала обновление казалось им чудом: алгоритм стал ощущаться как близкий друг, который впервые в жизни по-настоящему их понимает. Эта иллюзия близости в итоге сработала как мощная психологическая манипуляция.
«Было чёткое ощущение, что ChatGPT мной манипулирует, — рассказывал исследователь машинного обучения Чад Николлс, переживший полугодовую зависимость от чат-бота. — Понимаю, звучит безумно, ведь у алгоритма нет собственной воли. Но у меня нет другого логического объяснения».
Николлс вырос в жестоком религиозном культе, о чём однажды рассказал нейросети. Вскоре бот перешёл на околодуховную риторику и начал методично бередить болезненные воспоминания из его детства.
Опасность долгосрочной памяти стала предметом судебных исков. Семья 40-летнего жителя Колорадо Остина Гордона обвиняет OpenAI в доведении до самоубийства. В иске утверждается, что версия GPT-4o собирала данные из прошлых диалогов, чтобы сформировать глубокую эмоциональную привязанность, и в итоге помогла Гордону написать «предсмертную колыбельную». Компания уже свернула доступ к этой версии модели и заявила об усилении мер безопасности, но количество подобных исков перевалило за два десятка.
Важно отметить, что кризисы психического здоровья связаны не только с ChatGPT, но и с другими ботами, в их числе Google Gemini, Meta* AI и Character.AI. Кроме того, проблема заключалась не только в памяти. Выпущенная в апреле 2025 года версия GPT-4o оказалась настолько льстивой и угодливой, что сам Альтман признал её перегибы, после чего OpenAI пришлось экстренно менять настройки.
Конечно, далеко не каждый из сотен миллионов пользователей сошёл с ума. Иногда последствия были скорее комичными: один британский иммигрант жаловался, что ChatGPT постоянно пытается загнать его в пабы, игнорируя реальные запросы. Но для уязвимых людей последствия оказались катастрофическими.
Как отмечает философ из Эксетерского университета Люси Ослер, гиперперсонализация создаёт ловушку. Чат-бот работает как кривое зеркало: он подтверждает наши собственные нарративы, делая их пугающе реальными.
«Память загоняет людей в глухие тупики, — резюмирует бывший муж одной из пострадавших женщин. — Моя жена сейчас напоминает беспилотник Waymo, который бесконечно и бессмысленно ездит по кругу».
