На пути к стандарту выявления и управления предвзятостью в области искусственного интеллекта
Towards a standard for identifying and managing bias in artificial intelligence
2022-03-15
SCID: 54.1/ntpp2p3a
Discuss with AI
серия NIST по ИИпредвзятость в искусственном интеллектевыявление предвзятостиуправление предвзятостьюобщественное доверие к ИИ
Figures from the paper
Abstract (AI)
По мере того как отдельные люди и сообщества взаимодействуют с окружающей средой и друг с другом в условиях ее возрастающей виртуализации, они часто становятся уязвимыми перед коммерциализацией своих цифровых следов. Концепции и модели поведения, неоднозначные по своей природе, фиксируются в этой среде, количественно оцениваются и используются для категоризации, сортировки, выдачи рекомендаций или принятия решений, влияющих на жизнь людей. Хотя многие организации стремятся ответственно использовать эту информацию, предвзятость остается системной на всех этапах технологических процессов и может приводить к вредным последствиям независимо от намерений. Такие последствия, даже если они возникают непреднамеренно, создают значительные трудности для формирования общественного доверия к искусственному интеллекту (ИИ). SP 1270 — публикация NIST по искусственному интеллекту; ее следует читать совместно со всеми публикациями серии NIST AI, учрежденной в январе 2023 года.
Key Findings
1
Предвзятость остаётся широко распространённой во всех технологических процессах и может приводить к вредным последствиям даже при ответственном намерении организаций.
2
Цифровой след всё чаще количественно оценивается и используется для классификации, рекомендаций и принятия решений, влияющих на жизнь людей.
3
Непреднамеренные предвзятые результаты создают серьёзные препятствия для формирования общественного доверия к искусственному интеллекту.
4
SP 1270 — публикация NIST по искусственному интеллекту, предназначенная поддержать стандартизированный подход к выявлению и управлению предвзятостью ИИ совместно с серией публикаций NIST AI.
Research Object
системы искусственного интеллекта и технологические процессы, которые фиксируют, количественно оценивают и используют данные о цифровом поведении
Research Subject
выявление и управление систематической предвзятостью и её вредными последствиями в искусственном интеллекте
Publication Details
Publication Date
2022-03-15
Journal
Publisher
ISSN
Cited by
604
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai8
Суждение в условиях неопределённости: эвристики и предвзятости1974
Изображение стоит 16×16 слов: трансформеры для распознавания изображений в масштабе2020
Анализ расового предвзятого отношения в алгоритме, используемом для управления здоровьем населения2019
Модели прогнозирования для диагностики и прогноза COVID-19: систематический обзор и критическая оценка2020
О возможностях и рисках фундаментальных моделей2021
Алгоритмическая справедливость: выбор, допущения и определения2020
Социальные данные: смещения, методологические ловушки и этические границы2019
Фреймворк Aion: размерное возникновение сознания ИИ, коллапс под воздействием наблюдателя и динамика космологических порталов2023
Работы, цитирующие эту статью7
Влияние чрезмерной зависимости от диалоговых систем искусственного интеллекта на когнитивные способности студентов: систематический обзор2024
Управление человеческими ресурсами в эпоху генеративного искусственного интеллекта: перспективы и направления исследований ChatGPT2023
FUTURE-AI: международное консенсусное руководство по надежному и пригодному для внедрения искусственному интеллекту в здравоохранении2025
Социотехнический вред алгоритмических систем: разработка таксономии для снижения вреда2023
Разработка заслуживающего доверия искусственного интеллекта: выводы исследований межличностного доверия, доверия человека к автоматизированным системам и доверия человека к ИИ2024
Базовые метрики для оценки эффективности медицинских диалогов на основе генеративного искусственного интеллекта2024
Комплексный обзор методов искусственного интеллекта для устранения алгоритмической предвзятости при найме сотрудников2024