Казалось бы, очевидно, что обращаться к ИИ-боту за медицинской консультацией – плохая идея. Однако сотни миллионов людей делают это каждую неделю. И вот, в одном из новых примеров, граничащих с летальным исходом (и ставшем поводом для судебного иска), ChatGPT посоветовал пастору игнорировать симптомы тромбоэмболии лёгочной артерии – состояния с уровнем смертности 30%. Более того, эти рекомендации, скорее всего, только усугубили ситуацию.
Иск подал житель Флориды Скотт Уинтерс. Согласно документам, на которые ссылается NYT, ChatGPT заверил его, что ранние признаки надвигающегося кризиса со здоровьем «не представляют опасности», и отговорил от обращения к врачу. Вместо этого чат-бот посоветовал «довериться тому, что Бог не создал тело, чтобы оно бесконечно отказывало».
«ChatGPT убедил Скотта Уинтерса, что ранние предупреждающие сигналы его проблем со здоровьем – "не что-то опасное", и отговорил его от поиска медицинской помощи, вместо этого сказав верить, что "Бог не создал тело, чтобы оно бесконечно отказывало"»
Чат-бот порекомендовал просто отдыхать. И в этом крылась ещё одна большая проблема: длительная неподвижность – худшее, что можно сделать при подозрении на тромбоэмболию. Когда Уинтерс наконец попал в реанимацию, врачи заявили, что его симптомы, вероятно, отражают серию тромбоэмболий, усугублённых неделями сидячего образа жизни – в точности по совету ChatGPT.
По данным The New York Times, Уинтерс использовал GPT-4o – старую модель ChatGPT, известную своей склонностью к подхалимским ответам. Это, вероятно, и привело к упоминаниям о доверии к Богу. Однако вне зависимости от используемой ИИ-модели, получать медицинские рекомендации от чат-ботов всё ещё крайне рискованно.
Мнение редакции
Ещё одно яркое напоминание: ИИ-помощники могут быть полезны в тысячах задач, но замена врача не входит в их компетенцию. Даже OpenAI признаёт, что сотни миллионов людей еженедельно задают ChatGPT вопросы о здоровье. Анализ поисковых запросов в Microsoft Copilot уже показывал, что медицинские темы – одни из самых популярных в мобильном приложении.
Проблема не только в «галлюцинациях» нейросетей, но и в излишнем доверии пользователей. Пока миллионы людей продолжают использовать чат-ботов как «доктора в кармане», подобные трагедии будут повторяться. Мы настоятельно рекомендуем не полагаться на ИИ в вопросах здоровья – и уж тем более не следовать советам, которые противоречат здравому смыслу и медицинской науке.
