Объяснимая искусственная интеллектуальная система в образовании

Появляются возражения по поводу справедливости, ответственности, прозрачности и этики (FATE) образовательных вмешательств, поддерживаемых алгоритмами искусственного интеллекта (ИИ). Одним из современных методов повышения доверия к системам ИИ является объяснимая ИИ (XAI), которая предполагает использование методов, создающих прозрачные объяснения и аргументацию принятых системами ИИ решений. Учитывая существующую литературу по XAI, в статье утверждается, что XAI в образовании имеет общие черты с более широким применением ИИ, но также обладает специфическими потребностями. В соответствии с этим мы сначала представляем рамочную модель, именуемую XAI-ED, которая рассматривает шесть ключевых аспектов, связанных с объяснимостью при изучении, проектировании и разработке образовательных инструментов на базе ИИ. Эти ключевые аспекты фокусируются на заинтересованных сторонах, выгодах, подходах к представлению объяснений, широко используемых классах моделей ИИ, человеко-центричном дизайне интерфейсов ИИ и потенциальных подводных камнях предоставления объяснений в образовании. Далее представлены четыре всесторонних тематических примера, иллюстрирующих применение XAI-ED в четырёх различных образовательных инструментах на базе ИИ. Статья завершается обсуждением возможностей, проблем и будущих исследовательских потребностей для эффективной интеграции XAI в образование.