Ключевые проблемы обеспечения клинического эффекта искусственного интеллекта
Key challenges for delivering clinical impact with artificial intelligence
2019-10-29
SCID: 54.1/umbkbqnp
Discuss with AI
внедрение ИИ в клиническую практикуалгоритмическая предвзятостьклинический искусственный интеллектсдвиг распределения данныхрандомизированные контролируемые испытания
Figures from the paper
Abstract (AI)
Введение: Исследования в области искусственного интеллекта (ИИ) в здравоохранении быстро развиваются, а потенциальные применения демонстрируются в различных областях медицины. Однако в настоящее время имеется лишь ограниченное число примеров успешного внедрения таких технологий в клиническую практику. В статье рассматриваются основные проблемы и ограничения применения ИИ в здравоохранении, а также шаги, необходимые для переноса этих потенциально преобразующих технологий из исследовательской практики в клиническую. Основная часть: Ключевые проблемы внедрения систем ИИ в здравоохранение связаны с особенностями науки о машинном обучении, логистическими трудностями реализации, барьерами внедрения, а также необходимыми социокультурными изменениями и изменениями клинических маршрутов. Надёжная рецензируемая клиническая оценка в рамках рандомизированных контролируемых исследований должна рассматриваться как золотой стандарт формирования доказательной базы, однако проведение таких исследований на практике не всегда уместно или осуществимо. Показатели эффективности должны отражать реальную клиническую применимость и быть понятными предполагаемым пользователям. Необходимо регулирование, обеспечивающее баланс между темпами инноваций и потенциальным вредом, в сочетании с продуманным пострегистрационным надзором, чтобы пациенты не подвергались опасным вмешательствам и не лишались доступа к полезным инновациям. Следует разработать механизмы прямого сравнения систем ИИ, включая использование независимых, локальных и репрезентативных тестовых наборов данных. Разработчики алгоритмов ИИ должны внимательно учитывать потенциальные риски, включая сдвиг распределения данных, случайное подстраивание под смешивающие факторы, непреднамеренную дискриминационную предвзятость, трудности обобщения на новые популяции и непреднамеренные негативные последствия применения новых алгоритмов для показателей здоровья. Заключение: Безопасный и своевременный перенос исследований ИИ в клинически валидированные и надлежащим образом регулируемые системы, способные приносить пользу всем, представляет собой сложную задачу. Необходима надёжная клиническая оценка с использованием м...
Key Findings
1
Метрики эффективности ИИ должны отражать реальную клиническую применимость и быть понятными предполагаемым пользователям.
2
Несмотря на быстрый прогресс и перспективные применения в здравоохранении, лишь немногие методы ИИ были успешно внедрены в клиническую практику.
3
Разработчики должны учитывать сдвиг распределения данных, подгонку под смешивающие факторы, дискриминационное смещение, слабую обобщаемость и непреднамеренные неблагоприятные последствия для здоровья.
4
Рандомизированные контролируемые исследования считаются золотым стандартом клинических доказательств, хотя для некоторых систем ИИ они могут быть непрактичными или невыполнимыми.
5
Безопасное внедрение требует сбалансированного регулирования, пострегистрационного надзора и независимых, локальных и репрезентативных тестовых наборов для прямого сравнения систем ИИ.
6
Перенос ИИ в здравоохранение требует решения проблем машинного обучения, логистики внедрения, барьеров принятия, а также необходимых социокультурных и организационных изменений в лечебных процессах.
Research Object
Клинические системы ИИ (системы искусственного интеллекта, предназначенные для клинического применения)
Research Subject
Проблемы и требования, связанные с безопасным внедрением, клинической оценкой, регулированием, реализацией и принятием систем искусственного интеллекта в клинической практике
Publication Details
Publication Date
2019-10-29
Journal
Publisher
ISSN
Cited by
3136
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai2
Работы, цитирующие эту статью14
Обзор объяснимого искусственного интеллекта (XAI): на пути к медицинскому XAI2020
Искусственный интеллект в здравоохранении: трансформация медицинской практики2021
Влияние искусственного интеллекта (ИИ) на эффективность деятельности компаний: бизнес-ценность проектов трансформации на основе ИИ2020
Обзор роли искусственного интеллекта в здравоохранении2023
Глубокое обучение в диагностике рака, прогнозировании исходов и выборе лечения2021
Диагностическая точность глубокого обучения в медицинской визуализации: систематический обзор и метаанализ2021
FUTURE-AI: международное консенсусное руководство по надежному и пригодному для внедрения искусственному интеллекту в здравоохранении2025
Этика и управление доверием к медицинскому искусственному интеллекту2023
Интерпретируемость предсказательных моделей машинного обучения в здравоохранении2020
Объяснимое, надежное и этичное машинное обучение в здравоохранении: обзор2022
Обзор методов объяснимого искусственного интеллекта для биомедицинской визуализации с использованием глубоких нейронных сетей2023
Глубокое обучение для точной диагностики опухолей печени на основе магнитно-резонансной томографии и клинических данных2020
Искусственный интеллект в период пандемии COVID-19: баланс между преимуществами и этическими вызовами в ответных мерах Китая2025
Снижение риска ошибочной диагностики в медицинской диагностике на основе искусственного интеллекта: многомерная концепция технических, этических и политических решений2025