Подотчётность в области искусственного интеллекта: что это такое и как она работает

Подотчётность является краеугольным камнем управления искусственным интеллектом (ИИ). Однако её часто определяют недостаточно точно, поскольку многоаспектный характер подотчётности и социотехническая структура систем ИИ предполагают разнообразие ценностей, практик и мер, к которым может относиться подотчётность в сфере ИИ. Мы устраняем эту неопределённость, определяя подотчётность через обязанность предоставлять объяснения и нести ответственность, выделяя три условия её возможности (признание полномочий, осуществление контроля и ограничение власти), а также архитектуру из семи характеристик (контекст, охват, субъект, форум, стандарты, процесс и последствия). Мы анализируем эту архитектуру через призму четырёх целей подотчётности (соблюдение требований, отчётность, надзор и правоприменение). Мы утверждаем, что эти цели часто дополняют друг друга и что разработчики политики выделяют или приоритизируют одни из них по сравнению с другими в зависимости от проактивного или реактивного применения подотчётности и задач управления ИИ.