Объяснимый искусственный интеллект (XAI) для анализа ЭЭГ: обзор современных тенденций и достижений

Последние достижения в области объяснимого искусственного интеллекта (XAI) радикально изменили подходы к оценке систем искусственного интеллекта, поскольку прозрачность и надежность теперь ценятся не ниже производительности. Это особенно актуально для медицинских приложений, поскольку интерпретируемость является ключевым требованием для внедрения таких инструментов в клиническую практику. В частности, исследования анализа электроэнцефалографии (ЭЭГ) получили значительное развитие, поскольку сложная природа сигналов ЭЭГ позволяет эффективно применять эти методы, помогая исследователям и практикам получать новые сведения из огромного объема доступных данных. В настоящем обзоре представлен всесторонний анализ последних тенденций и достижений в области XAI для анализа ЭЭГ. Сначала дается краткий обзор основных задач анализа ЭЭГ, доступных наборов данных и подходов на основе моделей искусственного интеллекта, используемых для анализа. Затем методы XAI классифицируются с использованием общепринятых таксономий исследований в области XAI, таких как локальность и обобщаемость объяснений. Рассматривая все релевантные методы XAI для анализа ЭЭГ, мы предлагаем исследователям четкое представление о современном состоянии данной области и выявляем потенциальные пробелы в исследованиях. Наш обзор показывает, что современные подходы XAI для ЭЭГ часто ограничены с точки зрения устойчивости, согласованности и нейронаучной обоснованности. Эти результаты подчеркивают необходимость разработки более надежных и учитывающих специфику предметной области методов объяснимости для обеспечения достоверного анализа ЭЭГ в исследовательской и клинической практике.