Социотехническое окружение искусственного интеллекта: подход к организационному внедрению непрозрачных систем искусственного интеллекта

Sociotechnical Envelopment of Artificial Intelligence: An Approach to Organizational Deployment of Inscrutable Artificial Intelligence Systems
Aleksandre Asatiani, Pekka Malo, Per Rådberg Nagbøl, Esko Penttinen, Tapani Rinta-Kahila, Antti Salovaara
2021-01-01

компромисс между объяснимостью и производительностьюнеинтерпретируемый искусственный интеллекторганизационное внедрение ИИответственный ИИсоциотехническое окружение
В статье представлен подход к ответственному и безопасному внедрению в организациях непрозрачного, то есть необъяснимого, искусственного интеллекта (ИИ), такого как нейронные сети. На основе поискового исследования отдельного случая и недавно предложенной концепции окружения описывается случай, в котором организации удалось успешно «окружить» свои решения на основе ИИ, сбалансировав преимущества гибких моделей ИИ с рисками, связанными с непрозрачными моделями. Авторы рассматривают несколько методов окружения — установление четких границ взаимодействия ИИ с окружающей средой, тщательный выбор и курирование обучающих данных, а также надлежащее управление источниками входных и выходных данных, — и анализируют их влияние на выбор моделей ИИ в организации. Работа вносит два ключевых вклада: во-первых, вводится понятие социотехнического окружения посредством демонстрации того, что успешное окружение ИИ в организации зависит от взаимодействия социальных и технических факторов, что расширяет фокус исследований за пределы сугубо технических вопросов. Во-вторых, эмпирические примеры показывают, как практическая реализация социотехнического окружения позволяет организации управлять компромиссом между низкой объяснимостью и высокой производительностью, характерным для непрозрачных моделей. Эти результаты создают основу для более ответственного и подотчетного внедрения ИИ в организациях, позволяя людям лучше контролировать даже непрозрачные модели машинного обучения.
1
Методы окружения включают определение границ взаимодействия, тщательный отбор обучающих данных и управление источниками входных и выходных данных.
2
Практическая реализация окружения позволяет организациям сохранять больший человеческий контроль над непрозрачными моделями машинного обучения и способствует более ответственному применению ИИ.
3
Социотехническое окружение объединяет социальные и технические факторы для управления рисками непрозрачного ИИ, выходя за рамки исключительно технического контроля.
4
Исследование показывает, что социотехническое окружение помогает сбалансировать высокую производительность гибких моделей ИИ с их низкой объяснимостью.
5
В статье представлен подход к ответственному и безопасному внедрению непрозрачных, необъяснимых систем ИИ в организациях.

Непрозрачные (необъяснимые) системы искусственного интеллекта, внедряемые в организационных условиях

Социотехническое «обволакивание» для подотчётного и безопасного внедрения, включая управление границами моделей, обучающими данными, входами и выходами, а также компромиссом между объяснимостью и производительностью

Publication Details
Publication Date
2021-01-01
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Aleksandre Asatiani
Pekka Malo
Per Rådberg Nagbøl
Esko Penttinen
Tapani Rinta-Kahila
Antti Salovaara
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%