Применение объяснимого искусственного интеллекта в системе управления кандидатами на основе ИИ для снижения предвзятости и дискриминации при найме
Applying XAI to an AI-based system for candidate management to mitigate bias and discrimination in hiring
2022-12-01
SCID: 54.1/xjcppwzz
Discuss with AI
рекомендации ИИобъяснимый искусственный интеллекталгоритмическая предвзятостьотбор кандидатовдискриминация при найме
Figures from the paper
Abstract (AI)
Если предположить, что потенциальную предвзятость систем на основе искусственного интеллекта (ИИ) можно выявить и контролировать (например, за счёт предоставления высококачественных обучающих данных), использование таких систем для поддержки лиц, принимающих решения в сфере управления человеческими ресурсами (HR), при отборе кандидатов создаёт возможность сделать процессы отбора более объективными. Однако, поскольку окончательное решение о найме, вероятно, останется за людьми, распространённые человеческие предубеждения по-прежнему могут приводить к дискриминации. В данной работе исследуется влияние рекомендаций системы на основе ИИ относительно кандидатов на решения людей о найме, а также то, каким образом этот взаимосвязанный эффект может быть скорректирован с помощью подхода объяснимого искусственного интеллекта (XAI). Мы использовали самостоятельно разработанную платформу и провели онлайн-эксперимент с участием 194 человек. Результаты количественного и качественного анализа показывают, что рекомендации системы на основе ИИ могут снижать дискриминацию в отношении кандидатов старшего возраста и женщин, но, по-видимому, приводят к меньшему числу отборов кандидатов, принадлежащих к иностранной расе. Вопреки нашим ожиданиям, один и тот же подход XAI по-разному модифицировал эти эффекты в зависимости от контекста. Дополнительная информация: онлайн-версия содержит дополнительные материалы, доступные по адресу 10.1007/s12525-022-00600-9.
Key Findings
1
Использование ИИ может как повышать, так и ухудшать справедливость найма в зависимости от затронутой демографической группы и взаимодействия с лицами, принимающими решения.
2
Рекомендации ИИ были связаны с меньшим числом отборов кандидатов иностранной расы, что указывает на потенциальный дискриминационный эффект.
3
Рекомендации ИИ снижали дискриминацию при отборе пожилых и женщин-кандидатов.
4
В онлайн-эксперименте с участием 194 человек изучалось влияние рекомендаций ИИ и объяснимого ИИ на решения людей при найме.
5
Применённый подход объяснимого ИИ по-разному модифицировал влияние рекомендаций ИИ в зависимости от контекста и группы кандидатов, вопреки ожиданиям.
Research Object
система управления кандидатами и формирования рекомендаций на основе ИИ, используемая при принятии решений о найме
Research Subject
влияние системы на решения людей о найме, включая дискриминацию пожилых кандидатов, женщин и кандидатов иностранной расы, а также модерационная роль объяснимого ИИ
Publication Details
Publication Date
2022-12-01
Journal
Publisher
ISSN
Cited by
124
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai7
Заглядывая в «черный ящик»: обзор объяснимого искусственного интеллекта (XAI)2018
Искусственный интеллект и менеджмент: парадокс автоматизации и расширения возможностей2020
Искусственный интеллект (ИИ): междисциплинарные перспективы новых вызовов, возможностей и повестки исследований, практики и политики2019
Вопросы к ИИ: развитие практик проектирования пользовательского опыта для объяснимого искусственного интеллекта2020
Обзор методов объяснения решений моделей типа «чёрный ящик»2018
Достоверный искусственный интеллект2020
Экспериментальные исследования дискриминации на рынке труда2018