Доверие человека к искусственному интеллекту: обзор эмпирических исследований

Искусственный интеллект (ИИ) представляет собой новое поколение технологий, способных взаимодействовать с окружающей средой и стремящихся имитировать человеческий интеллект. Успешность интеграции ИИ в организации критически зависит от доверия работников к технологии ИИ. В этом обзоре объясняется, чем ИИ отличается от других технологий, и рассматриваются существующие эмпирические исследования факторов, определяющих «доверие» человека к ИИ, проведённые в различных дисциплинах за последние 20 лет. На основе рассмотренной литературы мы определяем форму представления ИИ (роботизированную, виртуальную и встроенную) и уровень его машинного интеллекта (то есть его возможности) как важные предпосылки формирования доверия и предлагаем концептуальную модель, охватывающую элементы, формирующие когнитивное и эмоциональное доверие пользователей. Наш обзор выявляет важную роль осязаемости, прозрачности, надёжности и непосредственности поведения ИИ в формировании когнитивного доверия, а также особую роль антропоморфизма ИИ в формировании эмоционального доверия. Мы также отмечаем ряд ограничений существующей доказательной базы, включая разнообразие измерений доверия и чрезмерную опору на краткосрочные исследования с небольшими выборками и экспериментальным дизайном, в которых формирование доверия, вероятно, отличается от его формирования в полевых условиях с более длительным периодом наблюдения и более высокими ставками. На основе нашего обзора мы предлагаем наиболее перспективные направления будущих исследований.