Применение этических принципов искусственного интеллекта: систематический обзор инструментов для разработки и оценки систем на основе ИИ

Applying the ethics of AI: a systematic review of tools for developing and assessing AI-based systems
Gonzalo A. Ruz, Ricardo Ortega-Bolaños, Joshua Bernal-Salcedo, Mariana Germán Ortiz, Julian Galeano Sarmiento, Reinel Tabares-Soto
2024-04-04

этика ИИуправление ИИжизненный цикл ИИэтичная разработка ИИсистематический обзор
Системы на основе искусственного интеллекта (ИИ) и их все более широкое применение сделали ИИ повсеместно распространенной технологией; алгоритмы машинного обучения используются в потоковых сервисах, социальных сетях и сфере здравоохранения. Однако внедрение этой перспективной технологии сопряжено со значительными социальными и этическими рисками и последствиями. При отсутствии этически ориентированной разработки такие системы могут подрывать автономию, неприкосновенность частной жизни и равенство людей, а также затрагивать права человека. С учетом подходов, необходимых для этичной разработки и эффективного управления ИИ, таких как этические принципы, руководства и технические инструменты, возникает вопрос об ограничениях, с которыми сталкиваются высококвалифицированные технические специалисты, участвующие во внедрении этих мер. В связи с этим мы предлагаем типологию, различающую этапы жизненного цикла ИИ, этические принципы высокого уровня, которые должны определять их реализацию, и инструменты, способные содействовать соблюдению этих принципов, включая как технические, так и концептуальные ресурсы. Кроме того, типология содержит такую релевантную информацию, как уровень разработки, связанные задачи, сектора и язык. Наше исследование основано на систематическом обзоре, в ходе которого были выявлены 352 ресурса и инструмента. Мы рассчитываем, что этот вклад будет полезен для продвижения этичной разработки ИИ среди разработчиков и руководителей, управляющих соответствующими инициативами. С полной типологией и исчерпывающим перечнем ресурсов можно ознакомиться по адресу: https://ricardo-ob.github.io/tools4responsibleai.
1
Для разработчиков и руководителей, управляющих инициативами ответственного ИИ, предоставлены общедоступная типология и полный перечень ресурсов.
2
Предложена типология, сопоставляющая этапы жизненного цикла ИИ с общими этическими принципами и техническими или концептуальными инструментами их реализации.
3
Обзор рассматривает практические ограничения, с которыми сталкиваются технические специалисты при применении этических принципов, руководств и мер управления.
4
Исследование систематически проанализировало и выявило 352 ресурса и инструмента для этичной разработки и оценки систем на основе ИИ.
5
Типология включает сведения об уровне зрелости ресурсов, связанных задачах разработки, секторах применения и языках.

системы на основе ИИ на протяжении их жизненного цикла

этические принципы, требования к управлению и технические или концептуальные инструменты разработки и оценки систем на основе ИИ

Publication Details
Publication Date
2024-04-04
Journal
Publisher
ISSN
Cited by
118
Access Type
Author Information
Authors
Gonzalo A. Ruz
Ricardo Ortega-Bolaños
Joshua Bernal-Salcedo
Mariana Germán Ortiz
Julian Galeano Sarmiento
Reinel Tabares-Soto
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%