Интеграция важности признаков методом перестановок с конформистским прогнозированием для надежной интерпретируемой искусственной интеллекта в предиктивном мониторинге процессов

По мере того как системы искусственного интеллекта (AI) все чаще внедряются в средах с высокими ставками, стала очевидна необходимость объяснений, передающих информацию об неопределенности. Традиционные методы объяснимого AI (XAI) часто игнорируют неопределенность, фокусируясь исключительно на точечных прогнозах. Для устранения этого пробела мы предлагаем использование важности признаков методом перестановок (permutation feature importance, PFI) в сочетании с мерами оценки предсказательной неопределенности. Этот новый подход исследует значимость признаков, соотнося их с уверенностью модели в своих прогнозах. Используя разделенное конформистское прогнозирование (split conformal prediction, SCP) для количественной оценки предсказательной неопределенности и интегрируя результаты в PFI, мы стремимся повысить надежность и интерпретируемость алгоритмов машинного обучения (ML). Что особенно важно, мы рассматриваем три сценария объяснений PFI на основе конформистского прогнозирования: перестановку значений признаков в тестовых данных, в калибровочных данных и в обоих наборах. Эти сценарии оценивают влияние перестановок признаков с разных точек зрения, выявляя чувствительность признаков и их значимость в различных условиях. Мы также проводим серию анализов чувствительности, в частности исследуя размер калибровочных данных и вычислительную эффективность, чтобы продемонстрировать устойчивость и масштабируемость нашего подхода для промышленных приложений. Наша всесторонняя оценка предоставляет понимание влияния признаков на прогнозы и связанные с ними уровни уверенности. Мы проверяем предложенный подход на реальном кейсе предиктивного мониторинга процессов в производстве.