Соединяя точки в сфере заслуживающего доверия искусственного интеллекта: от принципов ИИ, этики и ключевых требований к ответственным системам ИИ и регулированию
Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation
2023-06-24
SCID: 54.1/t92vgk8b
Discuss with AI
аудит ИИэтика ИИрегулирование ИИответственные системы ИИдоверенный искусственный интеллект
Figures from the paper
Abstract (AI)
Заслуживающий доверия искусственный интеллект (ИИ) основывается на семи технических требованиях, поддерживаемых тремя основными принципами, которые должны соблюдаться на протяжении всего жизненного цикла системы: система должна быть (1) законной, (2) этичной и (3) устойчивой — как с технической, так и с социальной точки зрения. Однако достижение действительно заслуживающего доверия ИИ требует более широкого видения, охватывающего надежность всех процессов и участников, связанных с жизненным циклом системы, и рассматривающего указанные аспекты через различные призмы. Более целостный подход включает четыре ключевых направления: глобальные принципы этичного использования и разработки систем на основе ИИ; философское осмысление этики ИИ; риск-ориентированный подход к регулированию ИИ; а также упомянутые принципы и требования. Семь требований — участие и контроль человека; устойчивость и безопасность; конфиденциальность и управление данными; прозрачность; разнообразие, недопущение дискриминации и справедливость; общественное и экологическое благополучие; подотчетность — анализируются с трех позиций: что представляет собой каждое требование к заслуживающему доверия ИИ, почему оно необходимо и как его можно реализовать на практике. Кроме того, практический подход к внедрению заслуживающих доверия систем ИИ позволяет определить посредством специального аудита понятие ответственности систем на основе ИИ перед законом. Таким образом, ответственная система ИИ — это предлагаемое в настоящей работе понятие и концепция первостепенной важности, которая может быть реализована посредством аудиторских процедур с учетом проблем, обусловленных использованием регуляторных песочниц. Наше междисциплинарное видение заслуживающего доверия ИИ завершается обсуждением расходящихся взглядов на будущее ИИ, недавно опубликованных в научной литературе. Мы приходим к выводу, что регулирование является ключом к достижению консенсуса между этими взглядами, а заслуживающие доверия и ответственные системы ИИ будут иметь решающее значение для настоящего и будущего нашего общества.
Key Findings
1
Холистическая концепция надёжности объединяет глобальные принципы ИИ, философскую этику, риск-ориентированное регулирование и три столпа с их семью требованиями.
2
Авторы заключают, что регулирование необходимо для согласования различных взглядов на будущее ИИ и развития надёжных и ответственных систем ИИ.
3
В работе вводится понятие ответственных систем ИИ как надёжных систем, чья юридическая ответственность может обеспечиваться аудитом, с учётом проблем регуляторных песочниц.
4
Семь требований анализируются с позиций их содержания, необходимости и практических способов реализации.
5
Надёжный ИИ рассматривается через семь технических требований, опирающихся на три столпа: законность, этичность, а также техническая и социальная устойчивость на протяжении всего жизненного цикла системы.
Research Object
Доверенные и ответственные AI-системы (AI-системы на всех стадиях их жизненного цикла)
Research Subject
принципы, этические и правовые требования, регулирование на основе оценки рисков, аудит и практическая реализация заслуживающих доверия и ответственных систем ИИ
Publication Details
Publication Date
2023-06-24
Journal
Publisher
ISSN
Cited by
920
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai12
Почему я должен вам доверять?2016
Дистилляция знаний в нейронной сети2015
Глубокое обучение с дифференциальной приватностью2016
Обзор объяснимого искусственного интеллекта (XAI): на пути к медицинскому XAI2020
Обзор количественной оценки неопределенности в глубоком обучении: методы, приложения и проблемы2021
Объяснимый искусственный интеллект (XAI): что нам известно и чего еще необходимо достичь для создания заслуживающего доверия искусственного интеллекта2023
Интерпретируемость машинного обучения: обзор методов и метрик2019
Борьба с изменением климата с помощью машинного обучения2022
Интерактивное машинное обучение для медицинской информатики: когда необходим человек в контуре обучения?2016
Игра с искусственным интеллектом: использование искусственного интеллекта для борьбы с изменением климата — возможности, вызовы и рекомендации2021
Этика и управление доверием к медицинскому искусственному интеллекту2023
Подотчётность в области искусственного интеллекта: что это такое и как она работает2022
Работы, цитирующие эту статью7
Роль ИИ в больницах и клиниках: трансформация здравоохранения в XXI веке2024
Объяснимая Искусственная Интеллектуальная Система (XAI) 2.0: Манифест открытых проблем и междисциплинарных направлений исследований2024
Использование искусственного интеллекта и передовых технологий переработки пищевых продуктов для повышения безопасности, качества и продовольственной обеспеченности: всесторонний обзор2025
Борьба с дезинформацией в эпоху больших языковых моделей: возможности и вызовы2024
Оценка взаимосвязи между внедрением генеративного ИИ, этическими соображениями и эффективностью организации2024
Важность управления данными ИИ в больших языковых моделях2025
Использование искусственного интеллекта для повышения эффективности научного сотрудничества: мнения студентов и образовательные последствия2024