Объяснимое машинное обучение для получения научных знаний и открытий

Методы машинного обучения продемонстрировали исключительно высокую эффективность в широком спектре прикладных областей при извлечении важной информации из данных. Интересным и относительно недавним направлением стало внедрение машинного обучения в естественные науки, где главная цель заключается в получении новых научных знаний и открытий на основе наблюдательных или смоделированных данных. Необходимым условием получения научного результата являются предметные знания, которые требуются для обеспечения объяснимости, а также повышения научной согласованности. В этой статье мы рассматриваем объяснимое машинное обучение применительно к задачам естественных наук и обсуждаем три ключевых элемента, которые считаем значимыми в данном контексте: прозрачность, интерпретируемость и объяснимость. В связи с этими ключевыми элементами мы анализируем современные научные работы, в которых используется машинное обучение, и рассматриваем способы применения объяснимого машинного обучения в сочетании с предметными знаниями из соответствующих прикладных областей.