Доверие к искусственному интеллекту: прогресс, проблемы и перспективные направления

Trust in AI: progress, challenges, and future directions
Saleh Afroogh, Ali Akbari, Emmie Malone, Mohammadali Kargar, Hananeh Alambeigi, Ali Akbari
2024-11-18

метрики надежности ИИвзаимодействие человека и машиныпринятие технологийдоверие к ИИдоверенный ИИ
Растущее использование систем искусственного интеллекта (ИИ) в повседневной жизни посредством различных приложений, сервисов и продуктов подчеркивает значимость доверия и недоверия к ИИ с точки зрения пользователей. Системы на основе ИИ широко распространились в различных сферах нашей жизни, выступая в качестве полезных «инструментов», применяемых людьми. Эти системы также развиваются, приобретая функции соассистентов или полуавтономных агентов в определённых областях, что потенциально может влиять на мышление, принятие решений и субъектность человека. Доверие и недоверие к ИИ выступают регуляторами и могут существенно определять степень его распространения: доверие способно повышать, а недоверие — снижать темпы внедрения ИИ. В последнее время значительное число исследований было посвящено различным аспектам доверия и недоверия к ИИ и связанным с ними вопросам. В настоящем систематическом обзоре литературы после концептуализации доверия в современной литературе об ИИ мы исследуем доверие в различных типах взаимодействия человека и машины, а также его влияние на принятие технологий в разных областях. Кроме того, мы предлагаем таксономию технических (то есть связанных с безопасностью, точностью и робастностью) и нетехнических аксиологических (то есть этических, правовых и смешанных) метрик надёжности, а также ряда показателей доверия. Далее мы рассматриваем основные факторы, подрывающие доверие к ИИ (например, угрозы автономии и достоинству), и факторы, способствующие его укреплению; кроме того, мы предлагаем перспективные направления и возможные решения для перехода к заслуживающему доверия ИИ.
1
Сформулированы направления будущих исследований и потенциальные решения для перехода к заслуживающему доверия искусственному интеллекту.
2
Предложена таксономия показателей заслуживающей доверия работы ИИ, охватывающая технические свойства, такие как безопасность, точность и устойчивость, а также аксиологические свойства, включая этические и правовые аспекты.
3
В обзоре концептуализируется доверие к ИИ в различных типах взаимодействия человека и машины и анализируется его влияние на принятие технологий в разных областях.
4
В обзоре выявлены основные факторы, подрывающие доверие к ИИ, включая угрозы человеческой автономии и достоинству, а также факторы, способствующие формированию доверия.
5
Доверие и недоверие регулируют распространение и внедрение ИИ, влияя на принятие пользователями систем искусственного интеллекта.

Системы искусственного интеллекта во взаимодействии человека и машины

Доверие и недоверие к ИИ, включая их измерения, метрики заслуживающей доверия, факторы, влияние на принятие технологий и механизмы формирования и утраты доверия

Publication Details
Publication Date
2024-11-18
Journal
Publisher
ISSN
Cited by
705
Access Type
Author Information
Authors
Saleh Afroogh
Ali Akbari
Emmie Malone
Mohammadali Kargar
Hananeh Alambeigi
Ali Akbari
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%