Прозрачность и объяснимость систем искусственного интеллекта: от этических рекомендаций к требованиям

В недавних исследованиях прозрачность и объяснимость были выделены как важные требования к качеству систем искусственного интеллекта (ИИ). Однако по-прежнему существует относительно мало тематических исследований, описывающих современное состояние практического определения этих требований к качеству. Данное исследование состояло из двух этапов. На первом этапе мы изучали, какие этические рекомендации организации разработали для создания прозрачных и объяснимых систем ИИ, а затем исследовали, как требования к объяснимости могут определяться на практике. Сначала мы проанализировали этические рекомендации 16 организаций, представляющих различные отрасли и государственный сектор. Затем мы провели эмпирическое исследование с участием практикующих специалистов, чтобы оценить результаты первого этапа. Анализ этических рекомендаций показал, что почти все организации подчеркивают важность прозрачности, а объяснимость рассматривают как неотъемлемую часть прозрачности. Для поддержки определения требований к объяснимости мы предлагаем модель компонентов объяснимости для выявления потребностей в объяснимости и шаблон представления требований к объяснимости. В статье также описаны уроки, извлеченные при практическом применении модели и шаблона. Для исследователей эта работа предоставляет сведения о том, что организации считают важным в отношении прозрачности и, в особенности, объяснимости систем ИИ. Для практиков исследование предлагает систематический и структурированный способ определения требований к объяснимости систем ИИ. Кроме того, результаты выделяют ряд передовых практик, способствующих определению объяснимости систем ИИ.