Управление в этичных и заслуживающих доверия системах искусственного интеллекта: расширение метода ECCOLA для управления этикой ИИ с использованием GARP
Governance in Ethical, Trustworthy AI Systems: Extension of the ECCOLA Method for AI Ethics Governance Using GARP
2022-09-27
SCID: 54.1/a5gqudjv
Discuss with AI
управление этикой ИИметод ECCOLAобщепринятые принципы ведения записей (GARP)управление информациейхранение и уничтожение информации
Figures from the paper
Abstract (AI)
Обоснование: Непрерывное развитие искусственного интеллекта (ИИ) и растущие темпы его внедрения стартапами в сфере разработки программного обеспечения требуют реализации мер управления на этапах проектирования и разработки, чтобы способствовать снижению рисков, связанных с управлением ИИ. Большинство инструментов этичного проектирования и разработки ИИ в основном опираются на принципы этики ИИ как на основной управленческий и регуляторный инструмент для создания этичного ИИ и формирования системы управления ИИ. Однако принципы этики ИИ были признаны недостаточными для управления ИИ из-за недостаточной надежности информации, что обусловливает необходимость дополнительных мер управления. Для повышения надежности информации и, как следствие, эффективности управления ИИ была предложена адаптивная модель управления, объединяющая устоявшиеся практики управления с принципами этики ИИ. В настоящем исследовании адаптивное управление рассматривается как средство повышения надежности информации в инструментах этичного проектирования и разработки ИИ. Мы объединяем практики управления информацией с принципами этики ИИ, используя ECCOLA — инструмент для разработки этичного программного обеспечения на ранних этапах разработки. Цель: Как повысить надежность ECCOLA путем ее адаптации к практикам управления информацией GARP®? Методы: ECCOLA используется в качестве тематического исследования; ее принципы этики ИИ критически анализируются в сочетании с практиками управления информацией, предусмотренными Общепринятыми принципами управления документами (Generally Accepted Recordkeeping Principles, GARP®). Результаты: Установлено, что надежность ECCOLA может быть повышена путем адаптации практик управления информацией, связанных с хранением и уничтожением. Выводы: Предлагается расширить ECCOLA новой темой управления и карточкой № 21.
Key Findings
1
Одних принципов этики ИИ недостаточно для надежного управления ИИ, поскольку им не хватает информационной устойчивости.
2
Надежность ECCOLA можно повысить за счет включения практик управления информацией, связанных с хранением и удалением записей.
3
В исследовании адаптивное управление реализуется путем объединения принципов этики ИИ ECCOLA с практиками управления информацией из Generally Accepted Recordkeeping Principles (GARP®).
4
Предложено расширить ECCOLA новой темой управления и карточкой № 21, посвященной хранению и удалению записей.
Research Object
ECCOLA — инструмент для этичного проектирования и разработки программного обеспечения на основе ИИ на ранних стадиях разработки
Research Subject
Повышение информационной надежности ECCOLA для управления этикой ИИ посредством интеграции практик управления информацией GARP, особенно хранения и уничтожения информации
Publication Details
Publication Date
2022-09-27
Journal
Publisher
ISSN
Cited by
30
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Методология исследовательской науки дизайна для исследований информационных систем2007
Искусственный интеллект в исследованиях информационных систем: систематический обзор литературы и повестка будущих исследований2021
Управление искусственным интеллектом2021
Стратегии управления для устойчивого цифрового мира2018