Ключевые проблемы обеспечения клинического эффекта искусственного интеллекта

Key challenges for delivering clinical impact with artificial intelligence
Greg S. Corrado, Alan Karthikesalingam, Christopher J. Kelly, Mustafa Suleyman, Dominic King
2019-10-29

внедрение ИИ в клиническую практикуалгоритмическая предвзятостьклинический искусственный интеллектсдвиг распределения данныхрандомизированные контролируемые испытания
Введение: Исследования в области искусственного интеллекта (ИИ) в здравоохранении быстро развиваются, а потенциальные применения демонстрируются в различных областях медицины. Однако в настоящее время имеется лишь ограниченное число примеров успешного внедрения таких технологий в клиническую практику. В статье рассматриваются основные проблемы и ограничения применения ИИ в здравоохранении, а также шаги, необходимые для переноса этих потенциально преобразующих технологий из исследовательской практики в клиническую. Основная часть: Ключевые проблемы внедрения систем ИИ в здравоохранение связаны с особенностями науки о машинном обучении, логистическими трудностями реализации, барьерами внедрения, а также необходимыми социокультурными изменениями и изменениями клинических маршрутов. Надёжная рецензируемая клиническая оценка в рамках рандомизированных контролируемых исследований должна рассматриваться как золотой стандарт формирования доказательной базы, однако проведение таких исследований на практике не всегда уместно или осуществимо. Показатели эффективности должны отражать реальную клиническую применимость и быть понятными предполагаемым пользователям. Необходимо регулирование, обеспечивающее баланс между темпами инноваций и потенциальным вредом, в сочетании с продуманным пострегистрационным надзором, чтобы пациенты не подвергались опасным вмешательствам и не лишались доступа к полезным инновациям. Следует разработать механизмы прямого сравнения систем ИИ, включая использование независимых, локальных и репрезентативных тестовых наборов данных. Разработчики алгоритмов ИИ должны внимательно учитывать потенциальные риски, включая сдвиг распределения данных, случайное подстраивание под смешивающие факторы, непреднамеренную дискриминационную предвзятость, трудности обобщения на новые популяции и непреднамеренные негативные последствия применения новых алгоритмов для показателей здоровья. Заключение: Безопасный и своевременный перенос исследований ИИ в клинически валидированные и надлежащим образом регулируемые системы, способные приносить пользу всем, представляет собой сложную задачу. Необходима надёжная клиническая оценка с использованием м...
1
Метрики эффективности ИИ должны отражать реальную клиническую применимость и быть понятными предполагаемым пользователям.
2
Несмотря на быстрый прогресс и перспективные применения в здравоохранении, лишь немногие методы ИИ были успешно внедрены в клиническую практику.
3
Разработчики должны учитывать сдвиг распределения данных, подгонку под смешивающие факторы, дискриминационное смещение, слабую обобщаемость и непреднамеренные неблагоприятные последствия для здоровья.
4
Рандомизированные контролируемые исследования считаются золотым стандартом клинических доказательств, хотя для некоторых систем ИИ они могут быть непрактичными или невыполнимыми.
5
Безопасное внедрение требует сбалансированного регулирования, пострегистрационного надзора и независимых, локальных и репрезентативных тестовых наборов для прямого сравнения систем ИИ.
6
Перенос ИИ в здравоохранение требует решения проблем машинного обучения, логистики внедрения, барьеров принятия, а также необходимых социокультурных и организационных изменений в лечебных процессах.

Клинические системы ИИ (системы искусственного интеллекта, предназначенные для клинического применения)

Проблемы и требования, связанные с безопасным внедрением, клинической оценкой, регулированием, реализацией и принятием систем искусственного интеллекта в клинической практике

Publication Details
Publication Date
2019-10-29
Journal
Publisher
ISSN
Cited by
3136
Access Type
Author Information
Authors
Greg S. Corrado
Alan Karthikesalingam
Christopher J. Kelly
Mustafa Suleyman
Dominic King
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%