Внедрение нейросетей в медицинские учреждения по всему миру показало, что технологиям необязательно ставить диагнозы, чтобы напрямую влиять на жизнь и смерть людей. В Бразилии 32-летняя Ребека Кардозу Тененте Молина скончалась после того, как государственная система распределения больничных мест, работающая на базе искусственного интеллекта, заставила её ждать перевода в реанимацию пять дней.
Как сообщает бразильское издание MG1, изначально девушка поступила в больницу небольшого муниципалитета Сан-Жуан-Непомусену с камнями в желчном пузыре. Когда её состояние начало стремительно ухудшаться, потребовался срочный перевод в отделение интенсивной терапии в городе Оливейра, расположенном примерно в трёхстах километрах. Родственникам даже пришлось обратиться в суд, чтобы добиться экстренной госпитализации, однако процесс всё равно критически затянулся. По мнению семьи, именно эти пять дней ожидания стали роковыми.
Сестра погибшей и по совместительству адвокат семьи Самела Кардозу Тененте Фуртаду утверждает, что автоматизированная система управления присвоила пациентке значительно более низкий «балл» тяжести состояния, чем было на самом деле. Этот расчёт выполнялся с помощью алгоритмов Центра управления государственным регулированием штата Минас-Жерайс (Core-MG), что, по заявлениям семьи, сыграло решающую роль в отказе своевременно предоставить реанимационную койку.
«Мы увидели, что врачи потеряли автономию в принятии решений о тяжести состояния больного, — рассказала Фуртаду журналистам. — Теперь реальное положение дел оценивает не врач у постели пациента, а компьютерная программа».
По её словам, алгоритм оказался абсолютно негибким: он упорно оценивал состояние Ребеки на 6,8 балла, хотя клиническая картина требовала максимальной «десятки». В результате другие пациенты с оценками 6,9 или 8 постоянно обходили её в очереди, а новые данные анализов, регулярно загружаемые в систему, не приводили к повышению приоритета.
Система Core-MG была официально запущена 19 мая текущего года. Тогда заместитель министра здравоохранения штата Минас-Жерайс Полиана Кардозу Лопис заявляла, что программа трижды в день обновляет карту свободного коечного фонда, что должно было усилить контроль над процессами и обеспечить сбор качественных данных о нуждах пациентов. В ответ на обвинения в гибели девушки региональный департамент здравоохранения сообщил журналистам, что переводы всё так же зависят от наличия мест под конкретные клинические потребности, и подчеркнул: внедрение цифрового комплекса принципиально не изменило протоколы маршрутизации больных.
Мнение редакции
Трагедия в Бразилии вскрывает фундаментальную проблему цифровизации медицины, о которой пока мало говорят на фоне всеобщего технологического оптимизма. Когда алгоритмы забирают у живого врача право экстренного вмешательства, система превращается в бездушный конвейер, где человеческая жизнь зависит от десятых долей программного балла. Этот случай заставляет задуматься: где проходит та граница, за которой искусственный интеллект из удобного инструмента превращается в непреодолимую бюрократическую стену?
