Этические последствия и ответственность за алгоритмы

Алгоритмы незаметно структурируют нашу жизнь. Они могут определять, будет ли человек принят на работу, повышен в должности, получит ли он кредит или жильё, а также какие политические рекламные материалы и новостные статьи увидят потребители. Однако ответственность за алгоритмы, используемые при принятии таких важных решений, остаётся неясной. В статье рассматривается вопрос о том, несут ли разработчики ответственность за свои алгоритмы после их внедрения, за что именно отвечают компании и каково нормативное основание этой ответственности. Алгоритмы рассматриваются как ценностно нагруженные, а не нейтральные: они порождают моральные последствия, укрепляют или подрывают этические принципы, а также обеспечивают или ограничивают права и достоинство заинтересованных сторон. Кроме того, алгоритмы являются важными субъектами этических решений и влияют на распределение ролей и ответственности в рамках этих решений. Следовательно, компании должны отвечать не только за ценностную обусловленность алгоритма, но и за то, как в рамках алгоритмического решения распределяются функции между участниками. Поэтому компании, разрабатывающие алгоритмы, несут ответственность за определение степени участия, которая будет предоставлена отдельным лицам в последующих алгоритмических решениях. Вопреки распространённым утверждениям, я прихожу к выводу, что если алгоритм спроектирован так, чтобы не допускать принятия отдельными лицами ответственности в рамках решения, то разработчик алгоритма должен нести ответственность за этические последствия использования алгоритма.