Алгоритмическая предвзятость в образовании

Algorithmic Bias in Education
Ryan S. Baker, Aaron Hawn
2021-11-18

системы ИИ в образованииалгоритмическая предвзятость в образованииалгоритмическое равенствометрики справедливостиконвейер машинного обучения
В статье рассматривается алгоритмическая предвзятость в образовании, обсуждаются причины ее возникновения и анализируется эмпирическая литература, посвященная конкретным формам проявления алгоритмической предвзятости в сфере образования. В то время как в других недавних исследованиях рассматриваются математические определения справедливости и развиваются алгоритмические подходы к снижению предвзятости, настоящий обзор направлен на систематизацию современных представлений о конкретных последствиях алгоритмической предвзятости в образовании, включая группы, для которых зафиксировано ее воздействие, а также этапы и участников разработки и внедрения образовательных алгоритмов, которые могут быть к этому причастны. Обсуждаются теоретические и формальные подходы к алгоритмической предвзятости, эти подходы соотносятся с конвейером машинного обучения, а также рассматриваются метрики оценки предвзятости. Далее анализируются данные об алгоритмической предвзятости в образовании: сначала наиболее подробно изученные категории расы/этнической принадлежности, пола и национальности, а затем имеющиеся свидетельства предвзятости в отношении менее изученных категорий, таких как социально-экономический статус, инвалидность и связь с вооруженными силами. С учетом пробелов в проведенных исследованиях предлагается концептуальная схема перехода от неизвестной предвзятости к выявленной и от справедливости к равенству возможностей. Обсуждаются препятствия на пути решения этих задач и предлагаются четыре направления работы по снижению и устранению проблем, связанных с алгоритмической предвзятостью в системах искусственного интеллекта в образовании (AIED) и других образовательных технологиях.
1
Систематизированы эмпирические данные о предвзятости по признакам расы или этнической принадлежности, пола и национальности, а также по менее изученным категориям, включая социально-экономический статус, инвалидность и связь с вооружёнными силами.
2
Предложена структура перехода от неизвестной предвзятости к известной и от формального равенства к справедливости в образовательных алгоритмах.
3
Теоретические и формальные представления об алгоритмической предвзятости связаны с конвейером машинного обучения; также рассматриваются метрики её оценки.
4
Обзор сосредоточен на конкретных последствиях алгоритмической предвзятости в образовании, выявляя затронутые группы и соответствующие этапы разработки и внедрения алгоритмов.
5
Выявлены препятствия и предложены четыре направления работы по смягчению и устранению проблем алгоритмической предвзятости в системах искусственного интеллекта для образования и других образовательных технологиях.

алгоритмическая предвзятость в образовании и системах образовательных технологий

конкретные последствия алгоритмической предвзятости, затронутые группы, связанные с ней этапы и участники разработки и внедрения, а также меры по её снижению

Publication Details
Publication Date
2021-11-18
Journal
Publisher
ISSN
Cited by
1415
Access Type
Author Information
Authors
Ryan S. Baker
Aaron Hawn
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%