Алгоритмическая справедливость в образовании
Algorithmic fairness in education
2022-08-11
SCID: 54.1/zwxnkuzv
Discuss with AI
алгоритмическая предвзятостьалгоритмическая дискриминацияалгоритмическая справедливостькаузальная справедливостьобразовательные прогностические модели
Figures from the paper
Abstract (AI)
Модели прогнозирования на основе данных всё шире применяются в сфере образования для поддержки учащихся, преподавателей и администраторов, что вызывает обеспокоенность по поводу справедливости их прогнозов и способов использования этих алгоритмических систем. В этом введении в проблематику алгоритмической справедливости в образовании мы проводим параллели с предшествующими исследованиями доступа к образованию, предвзятости и дискриминации, а также рассматриваем ключевые компоненты алгоритмических систем — измерение, обучение модели и принятие действий — для выявления источников предвзятости и дискриминации в процессе разработки и внедрения таких систем. Рассматриваются и сопоставляются статистические, основанные на сходстве и причинно-следственные трактовки справедливости с точки зрения их применения в образовательном контексте. Рекомендации для разработчиков политики и образовательных технологий содержат руководящие положения по обеспечению алгоритмической справедливости в образовании.
Key Findings
1
Алгоритмические прогнозные системы в образовании вызывают обеспокоенность по поводу справедливости, поскольку их прогнозы и последующее использование могут воспроизводить предвзятость и дискриминацию.
2
Предвзятость может возникать на этапах измерения, обучения моделей и последующих действий на основе прогнозов.
3
Рекомендации для политиков и разработчиков образовательных технологий предлагают способы повышения справедливости на всех этапах разработки и внедрения систем.
4
Статистические, основанные на сходстве и причинно-следственные определения справедливости различаются по применимости и последствиям в образовательном контексте.
5
Статья связывает алгоритмическую справедливость в образовании с устоявшимися проблемами доступа к образованию, предвзятости и дискриминации.
Research Object
Модели прогнозирования на основе данных и алгоритмические системы, используемые в образовании
Research Subject
Источники и концепции предвзятости, дискриминации и справедливости при измерении, обучении и внедрении образовательных алгоритмических систем
Publication Details
Publication Date
2022-08-11
Journal
Publisher
ISSN
Cited by
344
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai3
Работы, цитирующие эту статью4
Алгоритмическая предвзятость в образовании2021
Объяснимая искусственная интеллектуальная система в образовании2022
Объяснимая Искусственная Интеллектуальная Система (XAI) 2.0: Манифест открытых проблем и междисциплинарных направлений исследований2024
Алгоритмическое принятие решений в образовании: проблемы и возможности2024