Искусственный интеллект активно входит в повседневную практику врачей: его используют для подготовки записей, поиска медицинской информации и работы с клиническими вопросами. Однако для студентов-медиков такая помощь может обернуться не просто утратой навыков, а ситуацией, при которой они так и не научатся самостоятельно рассуждать, предупреждают Симар Баджадж из Медицинской школы Стэнфордского университета и травматолог Джозеф Сакран из Johns Hopkins Medicine.
В статье для The Guardian авторы отмечают, что врача, утратившего навык клинического мышления, ещё можно переучить. Но специалист, который не сформировал этот навык во время подготовки, рискует оказаться неготовым к самостоятельной работе.
Специализированные ИИ не оказались точнее универсальных
Авторы ссылаются на два обстоятельства. Во-первых, внутренние данные OpenEvidence, медицинского ИИ-сервиса для клиницистов, указывают, что им пользуются около двух третей врачей в США. Это означает, что подобные инструменты уже стали заметной частью профессиональной среды.
Во-вторых, исследование, опубликованное в журнале Nature Medicine, оценило надёжность специализированных медицинских языковых моделей. Согласно его выводам, при ответах на медицинские запросы такие системы показали результат хуже, чем универсальные чат-боты, в частности ChatGPT и Claude. По оценке авторов работы, их показатели были сопоставимы с «Обзор от ИИ» от Google – функцией, которую неоднократно критиковали за неточные и некорректные ответы.
Это не означает, что ИИ бесполезен для поиска литературы или систематизации данных. Однако Баджадж и Сакран подчёркивают: готовый ответ лишает учащегося важной части образовательного процесса – попыток построить гипотезу, ошибиться, обнаружить пробел и исправить его.
Почему готовый ответ мешает учиться
Ранее студент, которому предлагали составить перечень возможных диагнозов, мог назвать лишь часть вариантов. Разбор ошибки помогал ему понять, чего он не учёл, и закрепить это знание. Теперь достаточно обратиться к OpenEvidence или другому сервису и получить почти исчерпывающий список, включая версии, о которых учащийся даже не подумал.
По мнению авторов, отличие нынешней технологии от прежних медицинских новшеств в том, что она не только расширяет возможности врача, но и вмешивается в когнитивные процессы, которые медицинское образование должно развивать. Этот риск связывают с «когнитивным аутсорсингом»: пользователи постепенно передают инструментам всё большую долю мыслительной работы.
Ряд исследований связывает постоянную опору на ИИ со снижением критического мышления и меньшей активностью мозга при выполнении сложных задач. В медицинском образовании эта проблема особенно чувствительна: ошибка в рассуждении может повлиять не только на оценку, но и на здоровье пациента.
Ограничения вместо запрета
Врачи и преподаватели уже предлагают устанавливать более строгие правила применения ИИ студентами. В частности, Баджадж и Сакран считают необходимым периодически разбирать клинические случаи полностью без помощи алгоритмов. Они сравнивают такой подход с рекомендациями Федерального управления гражданской авиации США: пилотам следует время от времени отключать автопилот и управлять самолётом вручную.
Заместитель декана по образовательным технологиям и инновациям Медицинской школы Йельского университета ранее говорил, что самостоятельное составление медицинской записи заставляет врача тщательно разбираться в происходящем. Для формирования навыка, по его словам, важны регулярное повторение и личная интеллектуальная работа.
Отдельное исследование Университета Джонса Хопкинса также показало, что врачи, использующие ИИ, могут сталкиваться со скепсисом коллег. Тем не менее ключевой вопрос, который ставят авторы, заключается не в полном отказе от технологии, а в том, как не превратить удобный инструмент в замену профессиональному мышлению.
Мнение редакции
Медицинский ИИ способен ускорить поиск информации и помочь не упустить важную деталь, но он, естественно, не должен заменять путь к клиническому решению. Будущему врачу необходимо уметь объяснить, почему он рассматривает тот или иной диагноз, какие данные подтверждают вывод и где заканчивается уверенность алгоритма.
Ведь самостоятельная работа без подсказок – не дань прошлому, а проверка того, останется ли специалист компетентным в ситуации, когда подсказки нет, она неверна или требует критической оценки профессионалом.
