Объяснимая искусственная интеллектуальная система в образовании
Explainable Artificial Intelligence in education
2022-01-01
SCID: 54.1/jhbfse6u
Discuss with AI
Объяснимый ИИFATE (справедливость, подотчетность, прозрачность, этика)Фреймворк XAI-EDобразовательные ИИ-вмешательстваориентированные на человека интерфейсы ИИ
Figures from the paper
Abstract (AI)
Появляются возражения по поводу справедливости, ответственности, прозрачности и этики (FATE) образовательных вмешательств, поддерживаемых алгоритмами искусственного интеллекта (ИИ). Одним из современных методов повышения доверия к системам ИИ является объяснимая ИИ (XAI), которая предполагает использование методов, создающих прозрачные объяснения и аргументацию принятых системами ИИ решений. Учитывая существующую литературу по XAI, в статье утверждается, что XAI в образовании имеет общие черты с более широким применением ИИ, но также обладает специфическими потребностями. В соответствии с этим мы сначала представляем рамочную модель, именуемую XAI-ED, которая рассматривает шесть ключевых аспектов, связанных с объяснимостью при изучении, проектировании и разработке образовательных инструментов на базе ИИ. Эти ключевые аспекты фокусируются на заинтересованных сторонах, выгодах, подходах к представлению объяснений, широко используемых классах моделей ИИ, человеко-центричном дизайне интерфейсов ИИ и потенциальных подводных камнях предоставления объяснений в образовании. Далее представлены четыре всесторонних тематических примера, иллюстрирующих применение XAI-ED в четырёх различных образовательных инструментах на базе ИИ. Статья завершается обсуждением возможностей, проблем и будущих исследовательских потребностей для эффективной интеграции XAI в образование.
Key Findings
1
Четыре подробных тематических исследования демонстрируют применение XAI-ED в различных образовательных AI-инструментах.
2
Авторы предлагают рамочную модель XAI-ED, определяющую шесть ключевых аспектов объяснимости для образовательных AI-инструментов.
3
В статье обозначены возможности, проблемы и направления будущих исследований для эффективного внедрения XAI в образование.
4
Шесть аспектов XAI-ED охватывают заинтересованные стороны, преимущества, подходы к представлению объяснений, распространённые классы моделей ИИ, человеко-ориентированный дизайн интерфейса и подводные камни объяснений в образовании.
5
XAI в образовании имеет общие черты с объяснимым ИИ в целом, но также имеет специфические потребности, характерные для образовательных контекстов.
Research Object
Объяснимая искусственная интеллекта (XAI) в образовательных ИИ-инструментах и интервенциях
Research Subject
Рамки и практики объяснимости, ориентированные на заинтересованные стороны, выгоды, подходы к представлению объяснений, классы используемых моделей ИИ, человеко-ориентированный дизайн интерфейсов и потенциальные подводные камни при предоставлении объяснений в образовании
Publication Details
Publication Date
2022-01-01
Journal
Publisher
ISSN
Cited by
1246
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai7
Труды 22-й Международной конференции ACM SIGKDD по интеллектуальному анализу данных и извлечению знаний2016
Алгоритмическая предвзятость в образовании2021
Вопросы к ИИ: развитие практик проектирования пользовательского опыта для объяснимого искусственного интеллекта2020
Проектирование ориентированного на пользователя объяснимого ИИ, основанного на теории2019
Алгоритмическая справедливость в образовании2022
Скрытая архитектура высшего образования: создание инфраструктуры больших данных для «более умного университета»2018
Обнаружение академического плагиата2019
Работы, цитирующие эту статью3
Практические и этические проблемы использования больших языковых моделей в образовании: систематический обзор с картированием исследований2023
Восприятие искусственного интеллекта в образовательных контекстах после запуска ChatGPT: дезрупция или паника2023
Что является человекоцентричным в человекоцентричном искусственном интеллекте? Карта исследовательского ландшафта2023