Объяснимость искусственного интеллекта в здравоохранении: междисциплинарная перспектива
Explainability for artificial intelligence in healthcare: a multidisciplinary perspective
2020-11-30
SCID: 54.1/mgjn7wgy
Discuss with AI
биомедицинская этикасистемы поддержки принятия клинических решенийэтическая оценкаобъяснимый искусственный интеллектмедицинский искусственный интеллект
Figures from the paper
Abstract (AI)
ОБОСНОВАНИЕ: Объяснимость является одной из наиболее активно обсуждаемых тем в контексте применения искусственного интеллекта (ИИ) в здравоохранении. Несмотря на то что было показано, что системы на основе ИИ превосходят человека в выполнении некоторых аналитических задач, отсутствие объяснимости продолжает вызывать критику. Однако объяснимость представляет собой не только технологическую проблему; она поднимает широкий спектр медицинских, правовых, этических и социальных вопросов, требующих всестороннего изучения. В настоящей работе представлена комплексная оценка роли объяснимости в медицинском ИИ и проведена этическая оценка значения объяснимости для внедрения инструментов на основе ИИ в клиническую практику. МЕТОДЫ: На примере систем поддержки принятия клинических решений на основе ИИ мы применили междисциплинарный подход для анализа значимости объяснимости медицинского ИИ с технологической, правовой, медицинской и пациентской точек зрения. На основании результатов этого концептуального анализа была проведена этическая оценка с использованием «Принципов биомедицинской этики» Бошана и Чилдресса — автономии, благодеяния, непричинения вреда и справедливости — в качестве аналитической основы для определения необходимости объяснимости в медицинском ИИ. РЕЗУЛЬТАТЫ: Каждая из рассматриваемых областей выделяет свой набор ключевых аспектов и ценностей, имеющих значение для понимания роли объяснимости в клинической практике. С технологической точки зрения объяснимость необходимо рассматривать как с позиции способов её достижения, так и с позиции того, что является полезным с точки зрения разработки. При рассмотрении правовой перспективы мы определили информированное согласие, сертификацию и одобрение в качестве медицинских изделий, а также ответственность как ключевые аспекты, связанные с объяснимостью. Медицинская перспектива и перспектива пациентов подчёркивают важность учёта взаимодействия между людьми и медицинским ИИ. Мы заключаем, что отказ от объяснимости в системах поддержки принятия клинических решений создаёт угрозу основополагающим этическим ценностям медицины.
Key Findings
1
Объяснимость медицинского ИИ является междисциплинарной проблемой, охватывающей технологические, медицинские, правовые, этические и социальные аспекты, а не только технический вопрос.
2
Объяснимость следует оценивать с учётом как способов её технического достижения, так и практической пользы различных форм объяснений для разработки и внедрения систем.
3
Медицинская перспектива и перспектива пациентов подчёркивают необходимость учитывать взаимодействие между медицинскими работниками, пациентами и системами ИИ.
4
Анализ выделяет информированное согласие, сертификацию и одобрение медицинских устройств, а также ответственность как ключевые правовые аспекты объяснимости.
5
Используя автономию, благодеяние, непричинение вреда и справедливость как этическую основу, авторы заключают, что отсутствие объяснимости в системах клинической поддержки угрожает фундаментальным этическим ценностям медицины.
Research Object
Системы поддержки принятия клинических решений на основе ИИ в здравоохранении
Research Subject
Технологические, медицинские, правовые, этические и связанные с пациентами аспекты и требования к объяснимости при внедрении инструментов на основе ИИ в клиническую практику
Publication Details
Publication Date
2020-11-30
Journal
Publisher
ISSN
Cited by
2193
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai1
Работы, цитирующие эту статью11
Интерпретация моделей «чёрного ящика»: обзор объяснимого искусственного интеллекта2023
О возможностях и рисках фундаментальных моделей2021
Раскрытие потенциала инженерии промптов для больших языковых моделей2025
Глубокое обучение в диагностике рака, прогнозировании исходов и выборе лечения2021
FUTURE-AI: международное консенсусное руководство по надежному и пригодному для внедрения искусственному интеллекту в здравоохранении2025
Объяснимая Искусственная Интеллектуальная Система (XAI) 2.0: Манифест открытых проблем и междисциплинарных направлений исследований2024
Применение объяснимого искусственного интеллекта в кибербезопасности: современное состояние исследований2022
Объяснимый ИИ для Healthcare 5.0: возможности и проблемы2022
Практические и регуляторные аспекты применения искусственного интеллекта в сердечно-сосудистой визуализации2022
Прогнозирование риска в хирургии позвоночника: обзор традиционных моделей, искусственного интеллекта и проблемы клинической трансляции2026
Прогнозирование смертности в отделении интенсивной терапии и длительности пребывания при фибрилляции предсердий с использованием машинного обучения: исследование MIMIC-IV/MIMIC-III2026