Обзор методов объяснения «черных ящиков»

В последние годы многие точные системы поддержки принятия решений создавались как «черные ящики», то есть как системы, скрывающие свою внутреннюю логику от пользователя. Отсутствие объяснений представляет собой как практическую, так и этическую проблему. В литературе описано множество подходов, направленных на преодоление этой существенной слабости, иногда ценой жертвы точности ради интерпретируемости. Области применения систем-«черных ящиков» разнообразны, и каждый подход, как правило, разрабатывается для решения конкретной задачи и, вследствие этого, явно или неявно очерчивает собственное определение интерпретируемости и объяснения. Цель этой статьи — предоставить классификацию основных проблем, рассматриваемых в литературе, с точки зрения понятия объяснения и типа системы-«черного ящика». Имея определение задачи, тип «черного ящика» и требуемое объяснение, данный обзор должен помочь исследователю найти наиболее полезные для его работы предложения. Предложенная классификация подходов к раскрытию «черных ящиков» также должна быть полезна для осмысления множества открытых исследовательских вопросов.