На пути к стандарту выявления и управления предвзятостью в области искусственного интеллекта

По мере того как отдельные люди и сообщества взаимодействуют с окружающей средой и друг с другом в условиях ее возрастающей виртуализации, они часто становятся уязвимыми перед коммерциализацией своих цифровых следов. Концепции и модели поведения, неоднозначные по своей природе, фиксируются в этой среде, количественно оцениваются и используются для категоризации, сортировки, выдачи рекомендаций или принятия решений, влияющих на жизнь людей. Хотя многие организации стремятся ответственно использовать эту информацию, предвзятость остается системной на всех этапах технологических процессов и может приводить к вредным последствиям независимо от намерений. Такие последствия, даже если они возникают непреднамеренно, создают значительные трудности для формирования общественного доверия к искусственному интеллекту (ИИ). SP 1270 — публикация NIST по искусственному интеллекту; ее следует читать совместно со всеми публикациями серии NIST AI, учрежденной в январе 2023 года.