ИИ в педиатрии: почему чат-боты опасны для здоровья вашего ребенка

По данным колонки врача-педиатра Коннера Эрла (M.D., Ph.D.) в блоге Baylor College of Medicine, границы применения генеративного ИИ при принятии медицинских решений о детях остаются предметом дискуссии. Повод — рост обращений родителей к чат-ботам в нерабочие часы клиник при отсутствии единых регуляторных стандартов для медицинского ИИ в педиатрии. Схожую осторожность — не заменять врача чат-ботом — разделяют и другие профильные ресурсы, включая подборку Yahoo со ссылкой на практикующих врачей.

Откуда 83% ошибок

Цифра восходит к исследованию JAMA Pediatrics 2024 года: в педиатрической выборке популярный чат-бот ошибся примерно в 83% случаев. Эрл оговаривается — с момента публикации модельный парк обновился, и для актуальных версий нужны свежие бенчмарки (эталонные тесты точности). Тем не менее системные слабости, по его практическому опыту, сохраняются: модель уверенно генерирует несуществующие источники, придумывает ссылки на сайты, которых нет, и систематически тяготеет к чрезмерно успокаивающим формулировкам. В педиатрии цена пропущенного диагноза выше, чем у взрослого пациента.

Почему педиатрия — отдельный риск-профиль

В публикации журнала Pediatrics Американская академия педиатрии фиксирует ограничения ИИ применительно к детям: модель не считывает эмоциональный контекст «врач — семья», лишена эмпатии и этической оценки, не учитывает историю конкретного ребёнка. Дополнительно — обучающие выборки смещены в сторону взрослой патологии, а регуляторная база для медицинского ИИ остаётся фрагментарной, что отдельно поднимает вопрос защиты персональных данных пациента.

Что делать родителю в нерабочие часы

Эрл формулирует три практических шага. Первый — до наступления экстренной ситуации сохранить в телефоне номер медсестринской линии для нерабочих часов (after-hours nurse line) при поликлинике или ближайшем стационаре. Второй — генеративный ИИ использовать только как вспомогательный инструмент: для справки и структурирования вопросов врачу, но не для постановки диагноза. Третий — любой ответ модели перепроверять у профильного специалиста, особенно при решениях, затрагивающих здоровье ребёнка.

Резюме

• 83% ошибочных педиатрических диагнозов — JAMA Pediatrics, 2024 (через колонку Baylor College of Medicine).
• Сохраняющиеся риски ИИ: галлюцинации, избыточная уверенность, перекос обучающих данных в сторону взрослых пациентов.
• Регуляторика медицинского ИИ в педиатрии — в стадии формирования, приватность не урегулирована.
• Базовый порядок действий: номер медсестринской линии в контактах → ИИ как справочник → подтверждение у врача.