Искусственный интеллект от Google для медицинских целей — Med-Gemini — допустил серьёзную ошибку: в одном из исследований модель упомянула «basilar ganglia», несуществующую часть мозга, которая является путаницей между «basal ganglia» (базальные ганглии) и «basilar artery» (базилярная артерия). Врач-невролог легко различит эти структуры, так как они отвечают за разные функции и лечатся по-разному. Но если за расшифровку КТ берётся ИИ, ситуация может стать крайне опасной.
Ошибка была опубликована в исследовании Google в 2024 году и даже повторена в блоге компании. Когда невролог Брайан Мур обнаружил её, Google без уведомления исправила заметку в блоге, но саму научную статью не тронула. Компания назвала это «опечаткой», однако специалисты считают это показателем ограничений и потенциальной опасности применения медицинского ИИ.
Med-Gemini — это линейка моделей, способных анализировать медицинские данные, составлять отчёты и даже интерпретировать КТ. Однако данный инцидент показывает: даже крупные технологические компании не застрахованы от «галлюцинаций» нейросетей, и без должной проверки такие ошибки могут стоить пациентам здоровья, или даже жизни.
Ещё по теме:
- Google в своей рекламе Pixel 10 высмеяли задержки Apple с Siri
- Айфоны с пометкой «Сделано в Индии» всё ещё зависят от Китая
- Власти Санкт-Петербурга начали использовать ИИ для отбора будущих чиновников
