Причинная объяснимость и объяснимость искусственного интеллекта в медицине

Объяснимый искусственный интеллект (ИИ) вызывает значительный интерес в медицине. С технической точки зрения проблема объяснимости столь же стара, как и сам ИИ, а классический ИИ использовал понятные и прослеживаемые подходы. Однако их слабой стороной была работа с неопределённостями реального мира. С внедрением вероятностного обучения приложения стали более успешными, но одновременно более непрозрачными. Объяснимый ИИ занимается обеспечением прозрачности и прослеживаемости статистических методов машинного обучения типа «чёрного ящика», особенно глубокого обучения (ГО). Мы утверждаем, что необходимо выйти за пределы объяснимого ИИ. Для достижения уровня объяснимой медицины необходима причинная объяснимость. Подобно тому как юзабилити включает измерения качества использования, причинная объяснимость включает измерения качества объяснений. В этой статье мы приводим определения, необходимые для разграничения объяснимости и причинной объяснимости, а также рассматриваем примеры интерпретации глубокого обучения и человеческого объяснения в гистопатологии. Главный вклад этой статьи — понятие причинной объяснимости, которое отличается от объяснимости тем, что причинная объяснимость является свойством человека, тогда как объяснимость является свойством системы. Статья относится к следующей категории: фундаментальные понятия данных и знаний > человекоцентричность и взаимодействие с пользователем.