Этические последствия и ответственность за алгоритмы
Ethical Implications and Accountability of Algorithms
2018-06-07
SCID: 54.1/syse5et2
Discuss with AI
подотчётность алгоритмовалгоритмическое принятие решенийэтическая ответственностьправа и достоинство заинтересованных сторонценностно нагруженные алгоритмы
Figures from the paper
Abstract (AI)
Алгоритмы незаметно структурируют нашу жизнь. Они могут определять, будет ли человек принят на работу, повышен в должности, получит ли он кредит или жильё, а также какие политические рекламные материалы и новостные статьи увидят потребители. Однако ответственность за алгоритмы, используемые при принятии таких важных решений, остаётся неясной. В статье рассматривается вопрос о том, несут ли разработчики ответственность за свои алгоритмы после их внедрения, за что именно отвечают компании и каково нормативное основание этой ответственности. Алгоритмы рассматриваются как ценностно нагруженные, а не нейтральные: они порождают моральные последствия, укрепляют или подрывают этические принципы, а также обеспечивают или ограничивают права и достоинство заинтересованных сторон. Кроме того, алгоритмы являются важными субъектами этических решений и влияют на распределение ролей и ответственности в рамках этих решений. Следовательно, компании должны отвечать не только за ценностную обусловленность алгоритма, но и за то, как в рамках алгоритмического решения распределяются функции между участниками. Поэтому компании, разрабатывающие алгоритмы, несут ответственность за определение степени участия, которая будет предоставлена отдельным лицам в последующих алгоритмических решениях. Вопреки распространённым утверждениям, я прихожу к выводу, что если алгоритм спроектирован так, чтобы не допускать принятия отдельными лицами ответственности в рамках решения, то разработчик алгоритма должен нести ответственность за этические последствия использования алгоритма.
Key Findings
1
Разработчики алгоритмов отвечают за определение степени участия отдельных людей в опосредованных алгоритмами решениях.
2
Алгоритмы не являются нейтральными, поскольку порождают моральные последствия и влияют на этические принципы, права и достоинство заинтересованных сторон.
3
Компании, разрабатывающие алгоритмы, несут ответственность за распределение ролей и обязанностей в последующих алгоритмических решениях.
4
Если алгоритм не позволяет людям брать на себя ответственность за решение, разработчик должен отвечать за этические последствия использования алгоритма.
Research Object
Алгоритмы, используемые в значимых для людей решениях, и фирмы, которые их разрабатывают
Research Subject
Ответственность разработчиков и фирм за ценностно обусловленные этические последствия алгоритмов и за распределение ролей и ответственности людей в алгоритмическом принятии решений
Publication Details
Publication Date
2018-06-07
Journal
Publisher
ISSN
Cited by
753
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Работы, цитирующие эту статью5
Дискуссионная статья: «Ну и что, если это написал ChatGPT?» Междисциплинарные взгляды на возможности, проблемы и последствия применения генеративного разговорного искусственного интеллекта в исследованиях, практике и политике2023
Этика рекрутинга и отбора персонала с использованием искусственного интеллекта: обзор и повестка исследовательской работы2022
Подотчётность в области искусственного интеллекта: что это такое и как она работает2022
Применение этических принципов искусственного интеллекта: систематический обзор инструментов для разработки и оценки систем на основе ИИ2024
Внедрение этики искусственного интеллекта на практике: модель «песочных часов» организационного управления ИИ2022