Смещение в управляемых данными системах искусственного интеллекта: вводный обзор
Bias in data‐driven artificial intelligence systems—An introductory survey
2020-02-03
SCID: 54.1/sgbztnwy
Discuss with AI
предвзятость ИИалгоритмическая справедливостьуправляемый данными ИИсправедливость в интеллектуальном анализе данныхмашинное обучение
Figures from the paper
Abstract (AI)
Системы на основе искусственного интеллекта (ИИ) широко применяются в настоящее время для принятия решений, оказывающих далеко идущее влияние на отдельных людей и общество. Их решения могут затрагивать каждого, повсеместно и в любое время, что вызывает обеспокоенность по поводу потенциальных нарушений прав человека. Поэтому необходимо выйти за рамки традиционных алгоритмов ИИ, оптимизированных для прогнозирования, и внедрить этические и правовые принципы в их проектирование, обучение и применение, чтобы обеспечивать общественное благо, сохраняя при этом возможность использовать огромный потенциал технологии ИИ. Цель настоящего обзора — представить широкий междисциплинарный обзор проблемы смещения в системах ИИ с акцентом на технические задачи и решения, а также предложить новые направления исследований, ориентированные на подходы, прочно основанные на правовой базе. В этом обзоре основное внимание уделяется управляемому данными ИИ, поскольку значительная часть современных систем ИИ работает на основе больших данных и мощных алгоритмов машинного обучения. Если не указано иное, общий термин «смещение» используется для обозначения проблем, связанных со сбором или обработкой данных, которые могут приводить к предвзятым решениям на основании демографических признаков, таких как раса, пол и тому подобное.
Key Findings
1
Широкое применение ИИ для принятия значимых решений создает серьезные проблемы в области прав человека, этики и законодательства, затрагивающие отдельных людей и общество.
2
Системы искусственного интеллекта, управляемые данными, могут принимать предвзятые решения по демографическим признакам, включая расу и пол, из-за искажений при сборе или обработке данных.
3
Авторы утверждают, что при проектировании, обучении и внедрении ИИ необходимо учитывать этические и правовые принципы наряду с показателями прогностической эффективности.
4
Обзор указывает на необходимость дальнейших исследований методов устранения предвзятости, основанных на правовых рамках и сохраняющих общественную пользу ИИ.
5
В обзоре представлен междисциплинарный анализ технических проблем и подходов к снижению предвзятости в системах ИИ, управляемых данными.
Research Object
системы искусственного интеллекта, управляемые данными
Research Subject
технические, этические и правовые проблемы, связанные со смещением при сборе и обработке данных и принятии решений, включая подходы к обеспечению справедливости и предотвращению предвзятых решений
Publication Details
Publication Date
2020-02-03
Journal
Publisher
ISSN
Cited by
1265
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Работы, цитирующие эту статью9
Новая эра искусственного интеллекта в образовании: на пути к устойчивой многоаспектной революции2023
Искусственный интеллект и ценность для бизнеса: обзор литературы2021
Искусственный интеллект в креативных индустриях: обзор2021
Генеративный искусственный интеллект2023
Шесть грандиозных задач человекоцентричного искусственного интеллекта2023
Влияние искусственного интеллекта на навыки работников: повышение и переподготовка квалификации в организациях2023
Mental-LLM2024
Исследование совместного принятия решений: квазиэкспериментальное исследование взаимодействия человека и генеративного ИИ2024
Объяснимый искусственный интеллект (XAI) в страховании2022