Методы объяснимого искусственного интеллекта для интерпретации моделей в пищевой промышленности: обзор

Искусственный интеллект (ИИ) стал необходимым инструментом для анализа сложных данных и решения задач высокой сложности. Он применяется во многих областях за пределами компьютерных наук, включая пищевую инженерию, где растет потребность в точных и надежных прогнозах для соответствия строгим стандартам качества пищевой продукции. Однако это требует все более сложных моделей ИИ, что вызывает определенные опасения. В ответ на это возникло направление объяснимого искусственного интеллекта (XAI), призванное обеспечивать понимание процесса принятия решений ИИ и способствовать интерпретации моделей разработчиками и пользователями. Тем не менее XAI все еще недостаточно широко используется в пищевой инженерии, что ограничивает надежность моделей. Например, в контроле качества пищевой продукции модели ИИ, использующие спектральную визуализацию, способны обнаруживать загрязнители или оценивать степень свежести, однако непрозрачность процесса принятия решений препятствует их внедрению. Такие методы XAI, как SHAP (Shapley Additive Explanations, аддитивные объяснения Шепли) и Grad-CAM (Gradient-weighted Class Activation Mapping, взвешенное градиентом отображение активации классов), позволяют определить, какие спектральные длины волн или области изображений в наибольшей степени влияют на прогноз, повышая прозрачность и помогая инспекторам по контролю качества проверять оценки, полученные с помощью ИИ. В данном обзоре представлена таксономия для классификации исследований качества пищевой продукции, в которых применяются методы XAI; классификация организована по типам данных и методам объяснения и предназначена для содействия исследователям в выборе подходящих подходов. Кроме того, рассмотрены тенденции, проблемы и возможности, способствующие внедрению XAI в пищевую инженерию.