Единая система пяти принципов для искусственного интеллекта в обществе
A Unified Framework of Five Principles for AI in Society
2019-07-01
SCID: 54.1/77u2q9ar
Discuss with AI
объяснимость ИИуправление искусственным интеллектомпринципы биоэтикиэтичный искусственный интеллектпролиферация принципов
Figures from the paper
Abstract (AI)
Искусственный интеллект (ИИ) уже оказывает значительное влияние на общество. В связи с этим многие организации запустили широкий спектр инициатив по формулированию этических принципов внедрения ИИ, направленного на общественное благо. К сожалению, огромное количество предлагаемых принципов угрожает привести к перегрузке и путанице. Как решить эту проблему «распространения принципов»? В данной статье представлены результаты детального анализа нескольких наиболее известных сводов этических принципов в области ИИ. Мы оцениваем, сходятся ли эти принципы к единому согласованному набору или расходятся, сопровождаясь существенными разногласиями относительно того, что представляет собой «этичный ИИ». Наш анализ выявляет высокую степень совпадения между рассмотренными наборами принципов. Затем мы выделяем всеобъемлющую систему, состоящую из пяти ключевых принципов этичного ИИ. Четыре из них — это основные принципы, широко используемые в биоэтике: благодеяние, непричинение вреда, автономия и справедливость. На основании сравнительного анализа мы утверждаем, что необходимо дополнительно ввести новый принцип — объяснимость, понимаемую как включающую одновременно эпистемологический смысл постижимости (как ответ на вопрос «как это работает?») и этический смысл подотчётности (как ответ на вопрос «кто несёт ответственность за то, как это работает?»). В заключительной части мы отмечаем ограничения и оцениваем значение этой этической системы для будущих усилий по созданию законов, правил, технических стандартов и передовых практик в области этичного ИИ в самых разных контекстах.
Key Findings
1
Детальное сравнение наиболее известных инициатив по этике ИИ выявляет значительное сходство, а не фундаментальные разногласия между предлагаемыми принципами.
2
Объяснимость предлагается как отдельный принцип, объединяющий понятность того, как работают системы ИИ, и ответственность за их функционирование.
3
Этические рекомендации в области ИИ обобщаются в пять основных принципов: благодеяние, непричинение вреда, автономия, справедливость и объяснимость.
4
Авторы рассматривают ограничения и последствия применения данной пятипринципной концепции в различных контекстах использования ИИ.
5
Эта концепция призвана уменьшить распространение множества принципов и послужить основой для будущих законов, нормативов, технических стандартов и лучших практик этичного ИИ.
Research Object
этические принципы внедрения и регулирования искусственного интеллекта в обществе
Research Subject
схождение и расхождение этических принципов ИИ и формулирование единой системы из пяти принципов, включая объяснимость
Publication Details
Publication Date
2019-07-01
Journal
Harvard Data Science Review
Publisher
The MIT Press
ISSN
2644-2353
Cited by
3271
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai3
Работы, цитирующие эту статью10
Этические и нормативно-правовые проблемы технологий искусственного интеллекта в здравоохранении: нарративный обзор2024
От чего к тому, как: предварительный обзор общедоступных инструментов, методов и исследований в области этики искусственного интеллекта для перевода принципов в практику2019
Игра с искусственным интеллектом: использование искусственного интеллекта для борьбы с изменением климата — возможности, вызовы и рекомендации2021
Как проектировать искусственный интеллект на благо общества: семь ключевых факторов2019
Достоверный искусственный интеллект2020
Китайский подход к искусственному интеллекту: анализ политики, этики и регулирования2020
Влияние генеративного искусственного интеллекта на социально-экономическое неравенство и разработку государственной политики2024
Бесполезность этики искусственного интеллекта2022
Применение этических принципов искусственного интеллекта: систематический обзор инструментов для разработки и оценки систем на основе ИИ2024
Надежные агентные цепочки поставок: структура управления принятием решений на основе ИИ, оркестрируемым цифровыми двойниками, в условиях ограничений соответствия требованиям, аудируемости и суверенитета данных2026