Доверие к искусственному интеллекту: прогресс, проблемы и перспективные направления
Trust in AI: progress, challenges, and future directions
2024-11-18
SCID: 54.1/nu3hk9zj
Discuss with AI
метрики надежности ИИвзаимодействие человека и машиныпринятие технологийдоверие к ИИдоверенный ИИ
Figures from the paper
Abstract (AI)
Растущее использование систем искусственного интеллекта (ИИ) в повседневной жизни посредством различных приложений, сервисов и продуктов подчеркивает значимость доверия и недоверия к ИИ с точки зрения пользователей. Системы на основе ИИ широко распространились в различных сферах нашей жизни, выступая в качестве полезных «инструментов», применяемых людьми. Эти системы также развиваются, приобретая функции соассистентов или полуавтономных агентов в определённых областях, что потенциально может влиять на мышление, принятие решений и субъектность человека. Доверие и недоверие к ИИ выступают регуляторами и могут существенно определять степень его распространения: доверие способно повышать, а недоверие — снижать темпы внедрения ИИ. В последнее время значительное число исследований было посвящено различным аспектам доверия и недоверия к ИИ и связанным с ними вопросам. В настоящем систематическом обзоре литературы после концептуализации доверия в современной литературе об ИИ мы исследуем доверие в различных типах взаимодействия человека и машины, а также его влияние на принятие технологий в разных областях. Кроме того, мы предлагаем таксономию технических (то есть связанных с безопасностью, точностью и робастностью) и нетехнических аксиологических (то есть этических, правовых и смешанных) метрик надёжности, а также ряда показателей доверия. Далее мы рассматриваем основные факторы, подрывающие доверие к ИИ (например, угрозы автономии и достоинству), и факторы, способствующие его укреплению; кроме того, мы предлагаем перспективные направления и возможные решения для перехода к заслуживающему доверия ИИ.
Key Findings
1
Сформулированы направления будущих исследований и потенциальные решения для перехода к заслуживающему доверия искусственному интеллекту.
2
Предложена таксономия показателей заслуживающей доверия работы ИИ, охватывающая технические свойства, такие как безопасность, точность и устойчивость, а также аксиологические свойства, включая этические и правовые аспекты.
3
В обзоре концептуализируется доверие к ИИ в различных типах взаимодействия человека и машины и анализируется его влияние на принятие технологий в разных областях.
4
В обзоре выявлены основные факторы, подрывающие доверие к ИИ, включая угрозы человеческой автономии и достоинству, а также факторы, способствующие формированию доверия.
5
Доверие и недоверие регулируют распространение и внедрение ИИ, влияя на принятие пользователями систем искусственного интеллекта.
Research Object
Системы искусственного интеллекта во взаимодействии человека и машины
Research Subject
Доверие и недоверие к ИИ, включая их измерения, метрики заслуживающей доверия, факторы, влияние на принятие технологий и механизмы формирования и утраты доверия
Publication Details
Publication Date
2024-11-18
Journal
Publisher
ISSN
Cited by
705
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai9
На пути к строгой науке об интерпретируемом машинном обучении2017
Интерпретируемость машинного обучения: обзор методов и метрик2019
Этика этики искусственного интеллекта: оценка руководящих принципов2020
Рамочная система управления рисками искусственного интеллекта (AI RMF 1.0)2023
Чат-боты на базе ИИ в службе поддержки клиентов и их влияние на соблюдение пользователями просьб2020
Достоверный искусственный интеллект2020
Исследования в области машинного обучения и искусственного интеллекта на благо пациентов: 20 ключевых вопросов о прозрачности, воспроизводимости, этике и эффективности2020
Интерпретируемость предсказательных моделей машинного обучения в здравоохранении2020
Доверие, прозрачность и открытость: как учет культурных ценностей формирует национальные стратегии государственной политики стран Северной Европы в области искусственного интеллекта (ИИ)2020
Работы, цитирующие эту статью7
AI-агенты и агентные системы: анализ нескольких экспертов2025
Принятие решений в сложных системах с использованием систем поддержки принятия решений на основе ИИ: роль доверия, прозрачности и качества данных2026
CASA в действии: двойные траектории доверия от технико-социальных характеристик ИИ-агентов к активной вовлечённости пользователей через когнитивное и эмоциональное доверие2026
Избирательная консолидация исследований ИИ-агентов: анализ совместного цитирования их интеллектуальной структуры и значимости для взаимодействия человека и компьютера2026
Гипотезы, генерируемые искусственным интеллектом, и возникновение автономного научного открытия2026
Доверие человека к интеллектуальным агентам и намерение их использовать: влияние способности интеллектуальных агентов понимать намерения и эмоции человека2026
Агентный ИИ приходит: как поколение Z внедряет автономных ИИ-агентов2026