Проектирование ориентированного на пользователя объяснимого ИИ, основанного на теории

От здравоохранения до уголовного правосудия искусственный интеллект (ИИ) всё чаще поддерживает принятие решений с серьёзными последствиями для людей, что стимулировало развитие области объяснимого ИИ (XAI). В этой статье ставится задача усилить эмпирические прикладные исследования XAI за счёт изучения теоретических основ человеческого принятия решений, опираясь на философию и психологию. Мы предлагаем концептуальную рамку для создания человеко-центричного объяснимого ИИ, управляемого теорией принятия решений, на основе обширного междисциплинарного обзора. Исходя из этой рамки, мы выделяем пути, по которым когнитивные шаблоны человека формируют потребности в XAI, и показываем, как XAI может смягчать типичные когнитивные искажения. Затем мы реализуем эту рамку на практике, разработав и внедрив объяснимый клинический диагностический инструмент для фенотипирования в отделениях интенсивной терапии и проведя совместный дизайн с клиницистами. Далее мы извлекаем выводы о том, как рамка связывает алгоритмически сгенерированные объяснения с теориями человеческого принятия решений. Наконец, обсуждаются последствия для проектирования и разработки XAI.