Доверие человека к искусственному интеллекту: обзор эмпирических исследований
Human Trust in Artificial Intelligence: Review of Empirical Research
2020-03-26
SCID: 54.1/scan5899
Discuss with AI
антропоморфизм ИИпрозрачность ИИкогнитивное и эмоциональное довериеэмпирические исследованиядоверие человека к ИИ
Figures from the paper
Abstract (AI)
Искусственный интеллект (ИИ) представляет собой новое поколение технологий, способных взаимодействовать с окружающей средой и стремящихся имитировать человеческий интеллект. Успешность интеграции ИИ в организации критически зависит от доверия работников к технологии ИИ. В этом обзоре объясняется, чем ИИ отличается от других технологий, и рассматриваются существующие эмпирические исследования факторов, определяющих «доверие» человека к ИИ, проведённые в различных дисциплинах за последние 20 лет. На основе рассмотренной литературы мы определяем форму представления ИИ (роботизированную, виртуальную и встроенную) и уровень его машинного интеллекта (то есть его возможности) как важные предпосылки формирования доверия и предлагаем концептуальную модель, охватывающую элементы, формирующие когнитивное и эмоциональное доверие пользователей. Наш обзор выявляет важную роль осязаемости, прозрачности, надёжности и непосредственности поведения ИИ в формировании когнитивного доверия, а также особую роль антропоморфизма ИИ в формировании эмоционального доверия. Мы также отмечаем ряд ограничений существующей доказательной базы, включая разнообразие измерений доверия и чрезмерную опору на краткосрочные исследования с небольшими выборками и экспериментальным дизайном, в которых формирование доверия, вероятно, отличается от его формирования в полевых условиях с более длительным периодом наблюдения и более высокими ставками. На основе нашего обзора мы предлагаем наиболее перспективные направления будущих исследований.
Key Findings
1
Антропоморфизм ИИ выделяется как фактор, особенно важный для формирования эмоционального доверия пользователей.
2
Осязаемость, прозрачность, надежность и поведение ИИ, демонстрирующее непосредственность, связаны с формированием когнитивного доверия пользователей.
3
Доказательная база ограничена разнообразием измерений доверия и преобладанием краткосрочных исследований на небольших выборках в экспериментальных условиях, которые могут не отражать долгосрочные ситуации с высокими ставками.
4
Предложенная модель различает когнитивное и эмоциональное доверие и систематизирует характеристики ИИ, влияющие на каждый из этих типов.
5
Обзор показывает, что формы представления ИИ — роботизированная, виртуальная и встроенная — и возможности машинного интеллекта являются важными предпосылками доверия человека к ИИ.
Research Object
технология искусственного интеллекта (ИИ) и её представления (роботизированное, виртуальное и встроенное)
Research Subject
детерминанты и формирование когнитивного и эмоционального доверия человека к ИИ
Publication Details
Publication Date
2020-03-26
Journal
Publisher
ISSN
Cited by
2852
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Работы, цитирующие эту статью20
К Intelligent-TPACK: эмпирическое исследование профессиональных знаний учителей для этичной интеграции инструментов на основе искусственного интеллекта (ИИ) в образование2022
Искусственный интеллект и управление инновациями: обзор, концептуальная основа и повестка исследований2020
Сотрудничество с машинами: социотехническая рамочная модель внедрения искусственного интеллекта в организацию2020
Взаимодействие человека и автономных агентов в составе команды: обзор и анализ эмпирической литературы2020
Пандемии: последствия для исследований и практики в области индустриальной и организационной психологии2021
Искусственный интеллект в управлении инновациями: обзор инновационных возможностей и таксономия приложений ИИ2023
Станут ли люди в контуре управления боргами? Преимущества и недостатки работы с ИИ2021
Расширение организационного принятия решений с помощью алгоритмов глубокого обучения: принципы, перспективы и проблемы2020
Агенты ИИ как члены команды: влияние на удовлетворённость, конфликты, надежность и готовность работать вместе2023
Боты с чувствами: должны ли ИИ-агенты выражать положительные эмоции в обслуживании клиентов?2022
Человекоориентированный дизайн и управление производственными и логистическими системами: переход от Индустрии 4.0 к Индустрии 5.02023
Ансамбли человека и искусственного интеллекта: когда они могут работать?2021
Разработка заслуживающего доверия искусственного интеллекта: выводы исследований межличностного доверия, доверия человека к автоматизированным системам и доверия человека к ИИ2024
Человеческо‑ИИ агентство в эпоху генеративного ИИ2025
Совершенствование принятия решений посредством взаимодействия человека и искусственного интеллекта: систематический обзор и концептуальная модель2026
Выявление влияния искусственного интеллекта и его интерфейсов на честное и обманное управление впечатлением у кандидатов на работу в асинхронных видеоинтервью2023
Взаимодействие человека и ИИ при первых встречах: как агентность ИИ влияет на доверие, симпатию и оценку качества чата2024
Метафоры об искусственном интеллекте свидетельствуют о том, что люди все чаще воспринимают ИИ как теплый и человекоподобный2026
На пути к науке о взаимодействии человека и ИИ при принятии решений: фреймворк комплементарности2026
CASA в действии: двойные траектории доверия от технико-социальных характеристик ИИ-агентов к активной вовлечённости пользователей через когнитивное и эмоциональное доверие2026