Применение объяснимого искусственного интеллекта в системе управления кандидатами на основе ИИ для снижения предвзятости и дискриминации при найме

Applying XAI to an AI-based system for candidate management to mitigate bias and discrimination in hiring
Stefan Stieglitz, Milad Mirbabaie, Lennart Hofeditz, Sünje Clausen, Alexander Rieß, Alexander Rieß
2022-12-01

рекомендации ИИобъяснимый искусственный интеллекталгоритмическая предвзятостьотбор кандидатовдискриминация при найме
Если предположить, что потенциальную предвзятость систем на основе искусственного интеллекта (ИИ) можно выявить и контролировать (например, за счёт предоставления высококачественных обучающих данных), использование таких систем для поддержки лиц, принимающих решения в сфере управления человеческими ресурсами (HR), при отборе кандидатов создаёт возможность сделать процессы отбора более объективными. Однако, поскольку окончательное решение о найме, вероятно, останется за людьми, распространённые человеческие предубеждения по-прежнему могут приводить к дискриминации. В данной работе исследуется влияние рекомендаций системы на основе ИИ относительно кандидатов на решения людей о найме, а также то, каким образом этот взаимосвязанный эффект может быть скорректирован с помощью подхода объяснимого искусственного интеллекта (XAI). Мы использовали самостоятельно разработанную платформу и провели онлайн-эксперимент с участием 194 человек. Результаты количественного и качественного анализа показывают, что рекомендации системы на основе ИИ могут снижать дискриминацию в отношении кандидатов старшего возраста и женщин, но, по-видимому, приводят к меньшему числу отборов кандидатов, принадлежащих к иностранной расе. Вопреки нашим ожиданиям, один и тот же подход XAI по-разному модифицировал эти эффекты в зависимости от контекста. Дополнительная информация: онлайн-версия содержит дополнительные материалы, доступные по адресу 10.1007/s12525-022-00600-9.
1
Использование ИИ может как повышать, так и ухудшать справедливость найма в зависимости от затронутой демографической группы и взаимодействия с лицами, принимающими решения.
2
Рекомендации ИИ были связаны с меньшим числом отборов кандидатов иностранной расы, что указывает на потенциальный дискриминационный эффект.
3
Рекомендации ИИ снижали дискриминацию при отборе пожилых и женщин-кандидатов.
4
В онлайн-эксперименте с участием 194 человек изучалось влияние рекомендаций ИИ и объяснимого ИИ на решения людей при найме.
5
Применённый подход объяснимого ИИ по-разному модифицировал влияние рекомендаций ИИ в зависимости от контекста и группы кандидатов, вопреки ожиданиям.

система управления кандидатами и формирования рекомендаций на основе ИИ, используемая при принятии решений о найме

влияние системы на решения людей о найме, включая дискриминацию пожилых кандидатов, женщин и кандидатов иностранной расы, а также модерационная роль объяснимого ИИ

Publication Details
Publication Date
2022-12-01
Journal
Publisher
ISSN
Cited by
124
Access Type
Author Information
Authors
Stefan Stieglitz
Milad Mirbabaie
Lennart Hofeditz
Sünje Clausen
Alexander Rieß
Alexander Rieß
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%