Смещение в управляемых данными системах искусственного интеллекта: вводный обзор

Bias in data‐driven artificial intelligence systems—An introductory survey
Symeon Papadopoulos, Ioannis Yiannis Kompatsiaris, Salvatore Ruggieri, Franco Turini, Gjergji Kasneci, Wolfgang Nejdl, Ujwal Gadiraju, Katharina E. Kinder-Kurlanda, Claudia Wagner, Steffen Staab, María-Esther Vidal, Miriam Fernández, Eirini Ntoutsi, Pavlos Fafalios, Vasileios Iosifidis, Emmanouil Krasanakis, Fariba Karimi, Harith Alani, Bettina Berendt, Tina Kruegel, Christian Heinze, Klaus Broelemann, Thanassis Tiropanis, Tina Krügel
2020-02-03

предвзятость ИИалгоритмическая справедливостьуправляемый данными ИИсправедливость в интеллектуальном анализе данныхмашинное обучение
Системы на основе искусственного интеллекта (ИИ) широко применяются в настоящее время для принятия решений, оказывающих далеко идущее влияние на отдельных людей и общество. Их решения могут затрагивать каждого, повсеместно и в любое время, что вызывает обеспокоенность по поводу потенциальных нарушений прав человека. Поэтому необходимо выйти за рамки традиционных алгоритмов ИИ, оптимизированных для прогнозирования, и внедрить этические и правовые принципы в их проектирование, обучение и применение, чтобы обеспечивать общественное благо, сохраняя при этом возможность использовать огромный потенциал технологии ИИ. Цель настоящего обзора — представить широкий междисциплинарный обзор проблемы смещения в системах ИИ с акцентом на технические задачи и решения, а также предложить новые направления исследований, ориентированные на подходы, прочно основанные на правовой базе. В этом обзоре основное внимание уделяется управляемому данными ИИ, поскольку значительная часть современных систем ИИ работает на основе больших данных и мощных алгоритмов машинного обучения. Если не указано иное, общий термин «смещение» используется для обозначения проблем, связанных со сбором или обработкой данных, которые могут приводить к предвзятым решениям на основании демографических признаков, таких как раса, пол и тому подобное.
1
Широкое применение ИИ для принятия значимых решений создает серьезные проблемы в области прав человека, этики и законодательства, затрагивающие отдельных людей и общество.
2
Системы искусственного интеллекта, управляемые данными, могут принимать предвзятые решения по демографическим признакам, включая расу и пол, из-за искажений при сборе или обработке данных.
3
Авторы утверждают, что при проектировании, обучении и внедрении ИИ необходимо учитывать этические и правовые принципы наряду с показателями прогностической эффективности.
4
Обзор указывает на необходимость дальнейших исследований методов устранения предвзятости, основанных на правовых рамках и сохраняющих общественную пользу ИИ.
5
В обзоре представлен междисциплинарный анализ технических проблем и подходов к снижению предвзятости в системах ИИ, управляемых данными.

системы искусственного интеллекта, управляемые данными

технические, этические и правовые проблемы, связанные со смещением при сборе и обработке данных и принятии решений, включая подходы к обеспечению справедливости и предотвращению предвзятых решений

Publication Details
Publication Date
2020-02-03
Journal
Publisher
ISSN
Cited by
1265
Access Type
Author Information
Authors
Symeon Papadopoulos
Ioannis Yiannis Kompatsiaris
Salvatore Ruggieri
Franco Turini
Gjergji Kasneci
Wolfgang Nejdl
Ujwal Gadiraju
Katharina E. Kinder-Kurlanda
Claudia Wagner
Steffen Staab
María-Esther Vidal
Miriam Fernández
Eirini Ntoutsi
Pavlos Fafalios
Vasileios Iosifidis
Emmanouil Krasanakis
Fariba Karimi
Harith Alani
Bettina Berendt
Tina Kruegel
Christian Heinze
Klaus Broelemann
Thanassis Tiropanis
Tina Krügel
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%