Причинная объяснимость и объяснимость искусственного интеллекта в медицине
Causability and explainability of artificial intelligence in medicine
2019-04-02
SCID: 54.1/narpe2wy
Discuss with AI
каузальность объясненийглубокое обучениеобъяснимый искусственный интеллектгистопатологиямедицинский искусственный интеллект
Figures from the paper
Abstract (AI)
Объяснимый искусственный интеллект (ИИ) вызывает значительный интерес в медицине. С технической точки зрения проблема объяснимости столь же стара, как и сам ИИ, а классический ИИ использовал понятные и прослеживаемые подходы. Однако их слабой стороной была работа с неопределённостями реального мира. С внедрением вероятностного обучения приложения стали более успешными, но одновременно более непрозрачными. Объяснимый ИИ занимается обеспечением прозрачности и прослеживаемости статистических методов машинного обучения типа «чёрного ящика», особенно глубокого обучения (ГО). Мы утверждаем, что необходимо выйти за пределы объяснимого ИИ. Для достижения уровня объяснимой медицины необходима причинная объяснимость. Подобно тому как юзабилити включает измерения качества использования, причинная объяснимость включает измерения качества объяснений. В этой статье мы приводим определения, необходимые для разграничения объяснимости и причинной объяснимости, а также рассматриваем примеры интерпретации глубокого обучения и человеческого объяснения в гистопатологии. Главный вклад этой статьи — понятие причинной объяснимости, которое отличается от объяснимости тем, что причинная объяснимость является свойством человека, тогда как объяснимость является свойством системы. Статья относится к следующей категории: фундаментальные понятия данных и знаний > человекоцентричность и взаимодействие с пользователем.
Key Findings
1
Каузируемость определяется как свойство человека, тогда как объяснимость — как свойство системы искусственного интеллекта.
2
Объяснимый ИИ стремится сделать статистические методы «чёрного ящика», особенно глубокое обучение, прозрачными и прослеживаемыми в медицинских приложениях.
3
Авторы утверждают, что для объяснимой медицины необходима каузируемость, выходящая за рамки технической объяснимости и оценивающая качество объяснений для пользователей.
4
В статье предложены определения, разграничивающие объяснимость и каузируемость, а также приведены примеры интерпретации глубокого обучения и человеческого объяснения в гистопатологии.
5
Традиционный символьный ИИ обеспечивал понятные и воспроизводимые подходы, но испытывал трудности при работе с неопределённостью реального мира.
Research Object
системы искусственного интеллекта в медицине, особенно приложения глубокого обучения в гистопатологии
Research Subject
различие между объяснимостью и каузируемостью, включая качество объяснений и их человеко-ориентированную оценку
Publication Details
Publication Date
2019-04-02
Journal
Publisher
ISSN
Cited by
2620
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai9
Очень глубокие сверточные сети для масштабного распознавания изображений2014
Почему я должен вам доверять?2016
Искусственный интеллект: современный подход1995
Обучение представлений: обзор и новые перспективы2013
Каузальность2009
Обучение глубоких признаков для дискриминативной локализации2016
Машинное обучение: тенденции, перспективы и прогнозы2015
Сверточные глубокие сети убеждений для масштабируемого обучения без учителя иерархических представлений2009
Интерактивное машинное обучение для медицинской информатики: когда необходим человек в контуре обучения?2016
Работы, цитирующие эту статью17
Обзор объяснимого искусственного интеллекта (XAI): на пути к медицинскому XAI2020
О возможностях и рисках фундаментальных моделей2021
Интерпретируемость машинного обучения: обзор методов и метрик2019
Объяснимое машинное обучение для получения научных знаний и открытий2020
Искусственный интеллект, машинное обучение и глубокое обучение в передовой робототехнике: обзор2023
Обзор интерпретируемости обучения с учителем2021
Переосмысление радиологии: обзор интеграции искусственного интеллекта в медицинскую визуализацию2023
Применение искусственного интеллекта к медицинским изображениям: от машинного обучения до глубокого обучения2021
Оценка качества объяснений в машинном обучении: обзор методов и метрик2021
Применение объяснимого искусственного интеллекта в кибербезопасности: современное состояние исследований2022
Интерпретируемость предсказательных моделей машинного обучения в здравоохранении2020
Глубокое обучение и искусственный интеллект в обеспечении устойчивого развития: обзор ЦУР, возобновляемой энергетики и экологического здоровья2023
Объяснимый искусственный интеллект в биоинформатике: методы, инструменты и применения2023
BreastScreening-AI: оценка интеллектуальных медицинских агентов во взаимодействии человека и искусственного интеллекта2022
Объяснимый искусственный интеллект: обзор приложений к данным нейровизуализации2022
Объяснимый искусственный интеллект в нейровизуализации болезни Альцгеймера2025
Практические и регуляторные аспекты применения искусственного интеллекта в сердечно-сосудистой визуализации2022