Методы объяснимого искусственного интеллекта (XAI) для энергетических и электроэнергетических систем: обзор, проблемы и перспективы

Несмотря на широкое распространение и выдающуюся эффективность, модели машинного обучения считаются «чёрными ящиками», поскольку на практике очень трудно понять принцип их работы. Поэтому в области электроэнергетики, требующей высокого уровня подотчётности, специалистам сложно доверять решениям и рекомендациям, сформированным этими моделями, и обосновывать их. В то же время за последние несколько лет были разработаны методы объяснимого искусственного интеллекта (Explainable Artificial Intelligence, XAI), предназначенные для повышения объяснимости моделей машинного обучения, чтобы их результаты можно было лучше понимать. В связи с этим цель данной статьи состоит в том, чтобы подчеркнуть потенциал применения XAI в задачах электроэнергетики. Сначала мы рассматриваем общие проблемы, связанные с использованием XAI в таких приложениях, а затем анализируем современные исследования по данной теме, а также текущие тенденции в научном сообществе. Мы надеемся, что эта статья инициирует плодотворное обсуждение и будет способствовать дальнейшим исследованиям этого важного и активно развивающегося направления.