Устранение пробела в подотчётности ИИ
Closing the AI accountability gap
2020-01-23
SCID: 54.1/r2hyfd5j
Discuss with AI
подотчётность ИИвред от систем ИИаудит алгоритмовоценка рисков до внедренияпрослеживаемость
Figures from the paper
Abstract (AI)
Растущая обеспокоенность общественными последствиями систем искусственного интеллекта способствовала появлению волны академических и журналистских публикаций, в которых развернутые системы проверяются на предмет вреда исследователями, не связанными с организациями, внедряющими эти алгоритмы. Однако специалистам по-прежнему трудно выявлять вредные последствия работы собственных систем до их внедрения, а после внедрения возникающие проблемы бывает сложно или невозможно проследить до их источника.
Key Findings
1
После развертывания возникающие негативные эффекты может быть трудно или невозможно проследить до их исходных причин.
2
Внешние аудиты всё чаще исследуют общественный вред, причиняемый развернутыми системами искусственного интеллекта.
3
Практикующим специалистам трудно выявлять вредные последствия собственных систем до их развертывания.
4
В аннотации подчёркивается разрыв в подотчётности между внешним расследованием вреда и способностью организаций самостоятельно выявлять и диагностировать такой вред.
Research Object
Развернутые системы искусственного интеллекта
Research Subject
выявление и отслеживаемость вредных социальных последствий до и после развёртывания
Publication Details
Publication Date
2020-01-23
Journal
Publisher
ISSN
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest