Заглядывая в «черный ящик»: обзор объяснимого искусственного интеллекта (XAI)

На заре четвертой промышленной революции мы наблюдаем быструю и широкую интеграцию искусственного интеллекта (ИИ) в повседневную жизнь, что способствует ускорению перехода к более алгоритмическому обществу. Однако даже при таких беспрецедентных достижениях ключевым препятствием для использования систем на основе ИИ является то, что они часто лишены прозрачности. Действительно, природа этих систем как «черных ящиков» обеспечивает мощные предсказания, но не позволяет прямо объяснить их работу. Эта проблема вызвала новый виток дискуссий об объяснимом ИИ (XAI). Это исследовательское направление обладает значительным потенциалом для повышения доверия и прозрачности систем на основе ИИ. Оно признается необходимым условием для того, чтобы ИИ мог продолжать устойчивое развитие без сбоев. В данном обзоре представлен входной пункт для заинтересованных исследователей и практиков, позволяющий ознакомиться с ключевыми аспектами молодой и быстрорастущей совокупности исследований, связанных с XAI. Сквозь призму литературы мы рассматриваем существующие подходы к этой теме, обсуждаем тенденции в её области и представляем основные исследовательские траектории.