Вопросы к ИИ: развитие практик проектирования пользовательского опыта для объяснимого искусственного интеллекта
Questioning the AI: Informing Design Practices for Explainable AI User Experiences
2020-04-21
SCID: 54.1/g85b4nb7
Discuss with AI
пользовательский опыт взаимодействия с ИИпрактики UX-дизайнабанк вопросов XAIобъяснимый искусственный интеллекториентированный на пользователя XAI
Figures from the paper
Abstract (AI)
Возросший интерес к объяснимому искусственному интеллекту (XAI) привел к появлению обширного массива алгоритмических исследований в этой области. Хотя многие признают необходимость интеграции функций объяснимости в системы искусственного интеллекта, вопрос о том, как удовлетворить реальные потребности пользователей в понимании работы ИИ, остается открытым. На основе интервью с 20 специалистами по пользовательскому опыту (UX) и проектированию, работающими над различными продуктами на основе ИИ, мы стремимся выявить разрывы между современными алгоритмическими исследованиями XAI и практиками создания объяснимых продуктов на основе ИИ. Для этого мы разрабатываем основанный на алгоритмических исследованиях банк вопросов по XAI, в котором потребности пользователей в объяснимости представлены в виде типовых вопросов, которые пользователи могут задавать об ИИ, и используем его в качестве исследовательского инструмента. Наша работа дает представление о пространстве проектирования XAI, способствует развитию подходов к поддержке практик проектирования в этой области и выявляет направления для будущих исследований XAI. Мы также представляем расширенный банк вопросов по XAI и обсуждаем его применение для создания ориентированного на пользователя объяснимого ИИ.
Key Findings
1
Интервью с 20 специалистами по UX и дизайну выявили разрыв между алгоритмически ориентированными исследованиями XAI и потребностями практического проектирования объяснимых ИИ-продуктов.
2
Результаты помогают развивать практики дизайна и определяют направления будущих исследований, связывающих алгоритмические разработки XAI с потребностями пользователей.
3
Банк вопросов использовался как исследовательский инструмент для выявления практических выводов и возможностей в области дизайна объяснимого ИИ.
4
В исследовании разработан основанный на алгоритмах банк вопросов XAI, представляющий потребности пользователей в объяснимости как типовые вопросы об ИИ-системах.
5
Работа представляет расширенный банк вопросов XAI и объясняет его применение для поддержки ориентированного на пользователя проектирования объяснимого ИИ.
Research Object
продукты на основе объяснимого ИИ (XAI) и пользовательский опыт взаимодействия с ними
Research Subject
UX- и дизайн-практики удовлетворения потребностей пользователей в объяснимости, включая расхождения между алгоритмическими исследованиями XAI и проектированием реальных продуктов
Publication Details
Publication Date
2020-04-21
Journal
Publisher
ISSN
Cited by
960
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai10
Единый подход к интерпретации предсказаний моделей2017
Greedy function approximation: A gradient boosting machine.2001
Почему я должен вам доверять?2016
Обучение глубоких признаков для дискриминативной локализации2016
На пути к строгой науке об интерпретируемом машинном обучении2017
Заглядывая в «черный ящик»: обзор объяснимого искусственного интеллекта (XAI)2018
Интерпретируемость машинного обучения: обзор методов и метрик2019
Власть народу: роль человека в интерактивном машинном обучении2014
Проектирование ориентированного на пользователя объяснимого ИИ, основанного на теории2019
Обзор методов объяснения решений моделей типа «чёрный ящик»2018
Работы, цитирующие эту статью3
Объяснимая искусственная интеллектуальная система в образовании2022
Каталог паттернов ответственного ИИ: собрание лучших практик для управления и разработки систем ИИ2023
Применение объяснимого искусственного интеллекта в системе управления кандидатами на основе ИИ для снижения предвзятости и дискриминации при найме2022