На пути к науке о взаимодействии человека и ИИ при принятии решений: фреймворк комплементарности

По мере того как искусственный интеллект (ИИ) внедряется в принятие критически важных решений в сферах здравоохранения, безопасности, финансов и государственного управления, ключевая задача заключается уже не в том, будут ли люди и ИИ сотрудничать, а в том, как структурировать это сотрудничество для достижения подлинной комплементарности. Комплементарность человека и ИИ означает условия, при которых команды человека и ИИ превосходят по эффективности либо только людей, либо только системы ИИ. В статье развивается научное направление, посвящённое взаимодействию человека и ИИ при принятии решений, посредством интеграции идей когнитивной науки, искусственного интеллекта, эргономики и инженерии человеческого фактора, организационного поведения и этики. Предлагается фреймворк, основанный на коллективном интеллекте и опирающийся на фундаментальные когнитивные процессы — рассуждение, память и внимание, — для понимания и проектирования эффективных команд человека и ИИ. Рассматриваются социотехнические факторы, определяющие эффективность команд, включая состав команды, калибровку доверия, общие ментальные модели, обучение и структуру задач. Далее формулируются принципы проектирования для достижения комплементарности: определение целей и ограничений, распределение ролей, координация внимания и критического опроса, создание инфраструктур знаний, а также организация непрерывного обучения и оценки. В заключение обсуждаются теоретические, практические и политические следствия, при этом подчёркивается необходимость согласования с человеческими ценностями, обеспечения подотчётности и равенства. В совокупности эти положения предлагают дорожную карту создания команд человека и ИИ, которые не только демонстрируют высокую эффективность и адаптивность, но также являются прозрачными, заслуживающими доверия и основанными на человекоцентричном подходе.