Вопросы к ИИ: развитие практик проектирования пользовательского опыта для объяснимого искусственного интеллекта

Возросший интерес к объяснимому искусственному интеллекту (XAI) привел к появлению обширного массива алгоритмических исследований в этой области. Хотя многие признают необходимость интеграции функций объяснимости в системы искусственного интеллекта, вопрос о том, как удовлетворить реальные потребности пользователей в понимании работы ИИ, остается открытым. На основе интервью с 20 специалистами по пользовательскому опыту (UX) и проектированию, работающими над различными продуктами на основе ИИ, мы стремимся выявить разрывы между современными алгоритмическими исследованиями XAI и практиками создания объяснимых продуктов на основе ИИ. Для этого мы разрабатываем основанный на алгоритмических исследованиях банк вопросов по XAI, в котором потребности пользователей в объяснимости представлены в виде типовых вопросов, которые пользователи могут задавать об ИИ, и используем его в качестве исследовательского инструмента. Наша работа дает представление о пространстве проектирования XAI, способствует развитию подходов к поддержке практик проектирования в этой области и выявляет направления для будущих исследований XAI. Мы также представляем расширенный банк вопросов по XAI и обсуждаем его применение для создания ориентированного на пользователя объяснимого ИИ.