ChatGPT начал постепенно внедрять функцию «доверенные контакты», позволяющую пользователю заранее указать человека, которому система сможет отправить уведомление при обнаружении признаков серьёзного риска самоповреждения в переписке.
Содержимое самих чатов передаваться не будет, в уведомлении указывается только общий сигнал о возможной проблеме без цитат, фрагментов переписки или других деталей разговора.
Функция не предназначена для замены экстренных служб или постоянного контроля за разговорами пользователей. Её задача сводится к дополнительной поддержке через близких людей в случаях, когда автоматические механизмы и модерация фиксируют потенциально опасный контекст:
Доверенное лицо не является экстренной службой, системой реагирования в кризисных ситуациях или заменой помощи в области психического здоровья.
Механизм устроен в несколько этапов. Пользователь добавляет доверенный контакт через настройки и отправляет приглашение, после чего выбранный человек должен подтвердить участие. Если система фиксирует тревожные сигналы в переписке, диалог может пройти дополнительную проверку с участием человека. При подтверждении риска доверенный контакт получает уведомление с просьбой связаться с пользователем.
Сама функция стала частью расширения инструментов безопасности в ИИ-сервисах. Разработчики делают ставку на сочетание автоматического анализа и поддержки со стороны реальных людей, не раскрывая при этом содержимое личных диалогов.
