Алгоритмическая предвзятость в образовании
Algorithmic Bias in Education
2021-11-18
SCID: 54.1/y9c7w85c
Discuss with AI
системы ИИ в образованииалгоритмическая предвзятость в образованииалгоритмическое равенствометрики справедливостиконвейер машинного обучения
Figures from the paper
Abstract (AI)
В статье рассматривается алгоритмическая предвзятость в образовании, обсуждаются причины ее возникновения и анализируется эмпирическая литература, посвященная конкретным формам проявления алгоритмической предвзятости в сфере образования. В то время как в других недавних исследованиях рассматриваются математические определения справедливости и развиваются алгоритмические подходы к снижению предвзятости, настоящий обзор направлен на систематизацию современных представлений о конкретных последствиях алгоритмической предвзятости в образовании, включая группы, для которых зафиксировано ее воздействие, а также этапы и участников разработки и внедрения образовательных алгоритмов, которые могут быть к этому причастны. Обсуждаются теоретические и формальные подходы к алгоритмической предвзятости, эти подходы соотносятся с конвейером машинного обучения, а также рассматриваются метрики оценки предвзятости. Далее анализируются данные об алгоритмической предвзятости в образовании: сначала наиболее подробно изученные категории расы/этнической принадлежности, пола и национальности, а затем имеющиеся свидетельства предвзятости в отношении менее изученных категорий, таких как социально-экономический статус, инвалидность и связь с вооруженными силами. С учетом пробелов в проведенных исследованиях предлагается концептуальная схема перехода от неизвестной предвзятости к выявленной и от справедливости к равенству возможностей. Обсуждаются препятствия на пути решения этих задач и предлагаются четыре направления работы по снижению и устранению проблем, связанных с алгоритмической предвзятостью в системах искусственного интеллекта в образовании (AIED) и других образовательных технологиях.
Key Findings
1
Систематизированы эмпирические данные о предвзятости по признакам расы или этнической принадлежности, пола и национальности, а также по менее изученным категориям, включая социально-экономический статус, инвалидность и связь с вооружёнными силами.
2
Предложена структура перехода от неизвестной предвзятости к известной и от формального равенства к справедливости в образовательных алгоритмах.
3
Теоретические и формальные представления об алгоритмической предвзятости связаны с конвейером машинного обучения; также рассматриваются метрики её оценки.
4
Обзор сосредоточен на конкретных последствиях алгоритмической предвзятости в образовании, выявляя затронутые группы и соответствующие этапы разработки и внедрения алгоритмов.
5
Выявлены препятствия и предложены четыре направления работы по смягчению и устранению проблем алгоритмической предвзятости в системах искусственного интеллекта для образования и других образовательных технологиях.
Research Object
алгоритмическая предвзятость в образовании и системах образовательных технологий
Research Subject
конкретные последствия алгоритмической предвзятости, затронутые группы, связанные с ней этапы и участники разработки и внедрения, а также меры по её снижению
Publication Details
Publication Date
2021-11-18
Journal
Publisher
ISSN
Cited by
1415
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Анализ расового предвзятого отношения в алгоритме, используемом для управления здоровьем населения2019
Справедливость в машинном обучении: обзор2023
Алгоритмическая справедливость: выбор, допущения и определения2020
Социальные данные: смещения, методологические ловушки и этические границы2019
Алгоритмическая справедливость в образовании2022
Работы, цитирующие эту статью5
Объяснимая искусственная интеллектуальная система в образовании2022
Объяснимая Искусственная Интеллектуальная Система (XAI) 2.0: Манифест открытых проблем и междисциплинарных направлений исследований2024
Адаптивное обучение на основе искусственного интеллекта для устойчивой трансформации образования2024
Влияние генеративного искусственного интеллекта на социально-экономическое неравенство и разработку государственной политики2024
Дебайасинг алгоритмов в образовании2024