Доверие к искусственному интеллекту: прогресс, проблемы и перспективные направления

Растущее использование систем искусственного интеллекта (ИИ) в повседневной жизни посредством различных приложений, сервисов и продуктов подчеркивает значимость доверия и недоверия к ИИ с точки зрения пользователей. Системы на основе ИИ широко распространились в различных сферах нашей жизни, выступая в качестве полезных «инструментов», применяемых людьми. Эти системы также развиваются, приобретая функции соассистентов или полуавтономных агентов в определённых областях, что потенциально может влиять на мышление, принятие решений и субъектность человека. Доверие и недоверие к ИИ выступают регуляторами и могут существенно определять степень его распространения: доверие способно повышать, а недоверие — снижать темпы внедрения ИИ. В последнее время значительное число исследований было посвящено различным аспектам доверия и недоверия к ИИ и связанным с ними вопросам. В настоящем систематическом обзоре литературы после концептуализации доверия в современной литературе об ИИ мы исследуем доверие в различных типах взаимодействия человека и машины, а также его влияние на принятие технологий в разных областях. Кроме того, мы предлагаем таксономию технических (то есть связанных с безопасностью, точностью и робастностью) и нетехнических аксиологических (то есть этических, правовых и смешанных) метрик надёжности, а также ряда показателей доверия. Далее мы рассматриваем основные факторы, подрывающие доверие к ИИ (например, угрозы автономии и достоинству), и факторы, способствующие его укреплению; кроме того, мы предлагаем перспективные направления и возможные решения для перехода к заслуживающему доверия ИИ.