Оксфордское исследование предупредило об опасности использования ИИ для медицинских советов

Ученые Оксфордского университета обнаружили, что чат-боты на основе искусственного интеллекта предоставляют неточные и противоречивые рекомендации по здоровью, которые угрожают безопасности пациентов. Исследование подчеркивает, что неспособность моделей правильно интерпретировать неполную информацию от пользователей делает самодиагностику через ИИ крайне рискованной. Об этом пишет УНН.

Детали

Эксперимент с участием 1300 человек показал, что результаты взаимодействия с ИИ критически зависят от формулировки вопросов. Пользователям предлагали оценить симптомы, такие как сильная головная боль или истощение, однако чат-боты часто выдавали перечень диагнозов, из которых человеку приходилось выбирать наугад. Доктор Адам Махди, старший автор исследования, отметил в комментарии для BBC: "Когда искусственный интеллект перечислил три возможных состояния, людям оставалось догадываться, какое из них может подойти. Именно тогда все и развалится".

Ведущий врач исследования доктор Ребекка Пейн назвала практику консультирования с ИИ "опасной". Она объяснила, что пользователи обычно делятся информацией постепенно и могут пропускать ключевые детали, которые профессиональный медик выявил бы во время очного осмотра. В итоге люди, которые использовали ИИ, получали смесь полезных и вредных советов, что затрудняло принятие решения о необходимости визита к семейному врачу или неотложной помощи.

Предвзятость алгоритмов и перспективы отрасли

Помимо технических ошибок, специалисты указывают на системные недостатки технологии. Доктор Эмбер В. Чайлдс из Йельского университета подчеркнула, что ИИ обучается на медицинских данных, которые уже содержат десятилетние предубеждения.

Чат-бот является настолько же хорошим диагностом, насколько хорошими являются опытные клиницисты, что также не идеально

Это создает дополнительный риск повторения ошибок, заложенных в современную медицинскую практику.

Несмотря на критику, эксперты видят потенциал в специализированных моделях. Доктор Берталан Меско отметил, что новые версии чат-ботов от OpenAI и Anthropic, разработанные именно для сферы здравоохранения, могут показать лучшие результаты. Однако ключевым условием безопасности остается внедрение четких национальных правил, регуляторных барьеров и официальных медицинских рекомендаций для совершенствования таких систем.