Социотехническое окружение искусственного интеллекта: подход к организационному внедрению непрозрачных систем искусственного интеллекта
Sociotechnical Envelopment of Artificial Intelligence: An Approach to Organizational Deployment of Inscrutable Artificial Intelligence Systems
2021-01-01
SCID: 54.1/k86vsumf
Discuss with AI
компромисс между объяснимостью и производительностьюнеинтерпретируемый искусственный интеллекторганизационное внедрение ИИответственный ИИсоциотехническое окружение
Figures from the paper
Abstract (AI)
В статье представлен подход к ответственному и безопасному внедрению в организациях непрозрачного, то есть необъяснимого, искусственного интеллекта (ИИ), такого как нейронные сети. На основе поискового исследования отдельного случая и недавно предложенной концепции окружения описывается случай, в котором организации удалось успешно «окружить» свои решения на основе ИИ, сбалансировав преимущества гибких моделей ИИ с рисками, связанными с непрозрачными моделями. Авторы рассматривают несколько методов окружения — установление четких границ взаимодействия ИИ с окружающей средой, тщательный выбор и курирование обучающих данных, а также надлежащее управление источниками входных и выходных данных, — и анализируют их влияние на выбор моделей ИИ в организации. Работа вносит два ключевых вклада: во-первых, вводится понятие социотехнического окружения посредством демонстрации того, что успешное окружение ИИ в организации зависит от взаимодействия социальных и технических факторов, что расширяет фокус исследований за пределы сугубо технических вопросов. Во-вторых, эмпирические примеры показывают, как практическая реализация социотехнического окружения позволяет организации управлять компромиссом между низкой объяснимостью и высокой производительностью, характерным для непрозрачных моделей. Эти результаты создают основу для более ответственного и подотчетного внедрения ИИ в организациях, позволяя людям лучше контролировать даже непрозрачные модели машинного обучения.
Key Findings
1
Методы окружения включают определение границ взаимодействия, тщательный отбор обучающих данных и управление источниками входных и выходных данных.
2
Практическая реализация окружения позволяет организациям сохранять больший человеческий контроль над непрозрачными моделями машинного обучения и способствует более ответственному применению ИИ.
3
Социотехническое окружение объединяет социальные и технические факторы для управления рисками непрозрачного ИИ, выходя за рамки исключительно технического контроля.
4
Исследование показывает, что социотехническое окружение помогает сбалансировать высокую производительность гибких моделей ИИ с их низкой объяснимостью.
5
В статье представлен подход к ответственному и безопасному внедрению непрозрачных, необъяснимых систем ИИ в организациях.
Research Object
Непрозрачные (необъяснимые) системы искусственного интеллекта, внедряемые в организационных условиях
Research Subject
Социотехническое «обволакивание» для подотчётного и безопасного внедрения, включая управление границами моделей, обучающими данными, входами и выходами, а также компромиссом между объяснимостью и производительностью
Publication Details
Publication Date
2021-01-01
Journal
Publisher
ISSN
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest