Дебайасинг алгоритмов в образовании
Debiasing Education Algorithms
2024-01-04
SCID: 54.1/5kdeynxd
Discuss with AI
ABROCAсостязательное обучениеалгоритмическая справедливостьобразовательные условияпрогнозирование отсева студентов
Figures from the paper
Abstract (AI)
В данном систематическом обзоре литературы исследуется справедливость алгоритмов машинного обучения в образовательных условиях с акцентом на недавние исследования и предложенные в них решения проблемы смещений. Рассматриваются такие применения, как прогнозирование отсева учащихся, прогнозирование успеваемости, классификация сообщений на форумах и рекомендательные системы. Выделены распространённые стратегии, включая корректировку весов выборки, методы ослабления смещений, обеспечение справедливости посредством неосведомлённости или осведомлённости о чувствительных признаках, а также состязательное обучение. К часто используемым метрикам оценки справедливости относятся ABROCA, различия в результативности между группами и метрики неравенства. Обзор подчёркивает необходимость контекстно-ориентированных подходов для обеспечения равного отношения и показывает, что в большинстве исследований строгого компромисса между справедливостью и точностью не выявлено. Мы рекомендуем оценивать справедливость данных и признаков до оценки алгоритмической справедливости, чтобы предотвратить подачу на вход алгоритмам дискриминационных данных; расширить тематику исследований справедливости в образовании за пределы пола и расы, включив другие демографические характеристики; а также оценивать влияние справедливых алгоритмов на конечных пользователей, поскольку человеческое восприятие может не совпадать с показателями алгоритмической справедливости.
Key Findings
1
К распространённым стратегиям устранения предвзятости относятся корректировка весов выборки, ослабление предвзятости, обеспечение справедливости через осведомлённость или неосведомлённость и состязательное обучение.
2
Справедливость образовательных алгоритмов обычно оценивается с помощью ABROCA, различий в производительности между группами и метрик неравенства.
3
Большинство рассмотренных исследований не выявили строгого компромисса между справедливостью и точностью прогнозирования, однако методы требуют адаптации к конкретному контексту.
4
Обзор рассматривает методы обеспечения справедливости в образовательных приложениях, включая прогнозирование отсева, успеваемости, классификацию сообщений на форумах и рекомендательные системы.
5
Обзор рекомендует сначала проверять данные и признаки на справедливость, изучать демографические характеристики помимо пола и расы и оценивать влияние справедливых алгоритмов на конечных пользователей.
Research Object
Алгоритмы машинного обучения, применяемые в образовательной сфере, включая прогнозирование отсева и успеваемости студентов, классификацию сообщений на форумах и рекомендательные системы
Research Subject
Справедливость, смещения и компромисс между справедливостью и точностью в алгоритмах машинного обучения для образования, включая стратегии устранения и метрики оценки дискриминационных результатов
Publication Details
Publication Date
2024-01-04
Journal
Publisher
ISSN
Cited by
52
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest