Применение этических принципов искусственного интеллекта: систематический обзор инструментов для разработки и оценки систем на основе ИИ
Applying the ethics of AI: a systematic review of tools for developing and assessing AI-based systems
2024-04-04
SCID: 54.1/n98p9t8t
Discuss with AI
этика ИИуправление ИИжизненный цикл ИИэтичная разработка ИИсистематический обзор
Figures from the paper
Abstract (AI)
Системы на основе искусственного интеллекта (ИИ) и их все более широкое применение сделали ИИ повсеместно распространенной технологией; алгоритмы машинного обучения используются в потоковых сервисах, социальных сетях и сфере здравоохранения. Однако внедрение этой перспективной технологии сопряжено со значительными социальными и этическими рисками и последствиями. При отсутствии этически ориентированной разработки такие системы могут подрывать автономию, неприкосновенность частной жизни и равенство людей, а также затрагивать права человека. С учетом подходов, необходимых для этичной разработки и эффективного управления ИИ, таких как этические принципы, руководства и технические инструменты, возникает вопрос об ограничениях, с которыми сталкиваются высококвалифицированные технические специалисты, участвующие во внедрении этих мер. В связи с этим мы предлагаем типологию, различающую этапы жизненного цикла ИИ, этические принципы высокого уровня, которые должны определять их реализацию, и инструменты, способные содействовать соблюдению этих принципов, включая как технические, так и концептуальные ресурсы. Кроме того, типология содержит такую релевантную информацию, как уровень разработки, связанные задачи, сектора и язык. Наше исследование основано на систематическом обзоре, в ходе которого были выявлены 352 ресурса и инструмента. Мы рассчитываем, что этот вклад будет полезен для продвижения этичной разработки ИИ среди разработчиков и руководителей, управляющих соответствующими инициативами. С полной типологией и исчерпывающим перечнем ресурсов можно ознакомиться по адресу: https://ricardo-ob.github.io/tools4responsibleai.
Key Findings
1
Для разработчиков и руководителей, управляющих инициативами ответственного ИИ, предоставлены общедоступная типология и полный перечень ресурсов.
2
Предложена типология, сопоставляющая этапы жизненного цикла ИИ с общими этическими принципами и техническими или концептуальными инструментами их реализации.
3
Обзор рассматривает практические ограничения, с которыми сталкиваются технические специалисты при применении этических принципов, руководств и мер управления.
4
Исследование систематически проанализировало и выявило 352 ресурса и инструмента для этичной разработки и оценки систем на основе ИИ.
5
Типология включает сведения об уровне зрелости ресурсов, связанных задачах разработки, секторах применения и языках.
Research Object
системы на основе ИИ на протяжении их жизненного цикла
Research Subject
этические принципы, требования к управлению и технические или концептуальные инструменты разработки и оценки систем на основе ИИ
Publication Details
Publication Date
2024-04-04
Journal
Publisher
ISSN
Cited by
118
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai16
Заявление PRISMA 2020: обновлённое руководство по представлению систематических обзоров2021
Единый подход к интерпретации предсказаний моделей2017
Искусственный интеллект в образовании: обзор2020
Этика этики искусственного интеллекта: оценка руководящих принципов2020
Единая система пяти принципов для искусственного интеллекта в обществе2019
К пониманию влияния искусственного интеллекта на труд2019
К определению искусственного интеллекта2019
Управление искусственным интеллектом2021
От чего к тому, как: предварительный обзор общедоступных инструментов, методов и исследований в области этики искусственного интеллекта для перевода принципов в практику2019
Злонамеренное использование искусственного интеллекта: прогнозирование, предотвращение и минимизация последствий2018
Этические последствия и ответственность за алгоритмы2018
Как проектировать искусственный интеллект на благо общества: семь ключевых факторов2019
Обзор методов объяснения решений моделей типа «чёрный ящик»2018
Достоверный искусственный интеллект2020
Искусственный интеллект, системные риски и устойчивое развитие2021
Определение организационного управления искусственным интеллектом2022