Справедливость в машинном обучении: обзор

Когда технологии машинного обучения используются в контекстах, затрагивающих граждан, компании и исследователи должны быть уверены в отсутствии неожиданных социальных последствий, таких как предвзятость по отношению к полу, этнической принадлежности и/или людям с инвалидностью. Существует значительный объем литературы, посвященной подходам к снижению предвзятости и обеспечению справедливости, однако эта область сложна и трудна для освоения новичками. В статье представлен обзор различных научных направлений и подходов, направленных на повышение справедливости машинного обучения. Подходы систематизированы в рамках широко принятой классификации методов предварительной обработки, обработки в процессе обучения и постобработки, а также дополнительно подразделены на 11 категорий методов. Хотя значительная часть литературы посвящена бинарной классификации, в статье также рассматривается справедливость в задачах регрессии, рекомендательных системах и обучении без учителя, а также приводится подборка доступных в настоящее время библиотек с открытым исходным кодом. В заключение обобщаются нерешенные проблемы, сформулированные в виде пяти дилемм исследования справедливости.