Мораль и машина: как пол оценщиков и агентов формирует моральные суждения о взаимодействии человека и ИИ

По мере того как гендерно маркированные агенты искусственного интеллекта всё шире интегрируются в социальные сферы, остаются недостаточно изученными вопросы о том, как пользователи оценивают их проступки с моральной точки зрения и зависят ли такие суждения от пола. В серии исследований изучалось, как пол оценщиков, агентов ИИ и пациентов влияет на моральную оценку ИИ в различных областях. Участники-мужчины, как правило, проявляли большую снисходительность к проступкам ИИ, часто объясняя их техническими неполадками, что может соответствовать физикалистской или проектной перспективе. Участницы демонстрировали чувствительный к предметной области паттерн: они проявляли большую снисходительность в индивидуализирующих областях (справедливость, свобода, чистота), одновременно применяя более человекоподобные моральные стандарты в связывающих областях (вред, предательство, подрыв), что потенциально отражает интенциональную установку. Их объяснения также содержали более разнообразную эмоциональную и реляционную лексику. Кроме того, мужчины-оценщики, по-видимому, проецировали ролевые гендерные ожидания на агентов ИИ противоположного пола, строже оценивая феминизированный ИИ, когда он причинял вред пациенткам. Эти результаты имеют важные последствия для разработки более справедливых и эффективных систем взаимодействия человека и компьютера.