Применение объяснимого искусственного интеллекта в системе управления кандидатами на основе ИИ для снижения предвзятости и дискриминации при найме

Если предположить, что потенциальную предвзятость систем на основе искусственного интеллекта (ИИ) можно выявить и контролировать (например, за счёт предоставления высококачественных обучающих данных), использование таких систем для поддержки лиц, принимающих решения в сфере управления человеческими ресурсами (HR), при отборе кандидатов создаёт возможность сделать процессы отбора более объективными. Однако, поскольку окончательное решение о найме, вероятно, останется за людьми, распространённые человеческие предубеждения по-прежнему могут приводить к дискриминации. В данной работе исследуется влияние рекомендаций системы на основе ИИ относительно кандидатов на решения людей о найме, а также то, каким образом этот взаимосвязанный эффект может быть скорректирован с помощью подхода объяснимого искусственного интеллекта (XAI). Мы использовали самостоятельно разработанную платформу и провели онлайн-эксперимент с участием 194 человек. Результаты количественного и качественного анализа показывают, что рекомендации системы на основе ИИ могут снижать дискриминацию в отношении кандидатов старшего возраста и женщин, но, по-видимому, приводят к меньшему числу отборов кандидатов, принадлежащих к иностранной расе. Вопреки нашим ожиданиям, один и тот же подход XAI по-разному модифицировал эти эффекты в зависимости от контекста. Дополнительная информация: онлайн-версия содержит дополнительные материалы, доступные по адресу 10.1007/s12525-022-00600-9.