Этические вопросы применения многоагентных систем искусственного интеллекта в здравоохранении: нарративный обзор

Ethical issues in multi-agent AI systems for healthcare: a narrative review
Haitao Song, Hongyu Wang, Zhibin Xie, Lexuan Dai, Zikai Wang, Jingzhe Qian
2026-04-28

этика искусственного интеллектасмещение автоматизациидецентрализованное принятие решенийздравоохранениемультиагентные системы ИИ
Введение: Считается, что многоагентные системы искусственного интеллекта способны значительно улучшить цифровое здравоохранение, однако они также создают новые и более серьезные этические проблемы. Такие системы распределяют процесс принятия решений между несколькими взаимодействующими агентами, и эта децентрализованная система принятия решений вызывает этические опасения в медицинской сфере. С одной стороны, она воспроизводит этические проблемы, характерные для традиционных инструментов искусственного интеллекта; с другой стороны, процессы взаимодействия внутри сложных систем порождают новые дилеммы. Цель настоящего нарративного обзора — обобщить этические проблемы, связанные с многоагентными системами искусственного интеллекта в здравоохранении, и рассмотреть соответствующие стратегии их минимизации. Методы: Результаты исследования были обобщены с использованием нарративного подхода. Релевантные публикации были выявлены посредством булевых поисковых запросов в таких базах данных, как PubMed, Scopus и Web of Science. В обзор включена 21 статья, посвященная многоагентному искусственному интеллекту, здравоохранению и этическим вопросам. Результаты: Были выявлены семь ключевых этических проблем: (1) комбинированная непрозрачность, при которой взаимодействующие агенты искусственного интеллекта создают несколько уровней непрозрачного принятия решений; (2) распространение ошибок и трудности с их атрибуцией, что усложняет установление ответственности за клинический вред; (3) усиление зависимости клиницистов и предвзятость автоматизации, способные привести к утрате навыков и чрезмерной опоре на систему; (4) ослабление человеческого надзора, поскольку многоагентные системы искусственного интеллекта функционируют за пределами эффективного контроля со стороны человека; (5) риски для конфиденциальности и безопасности данных, обусловленные сложными потоками данных между агентами; (6) угрозы автономии пациента и информированному согласию вследствие непрозрачных или патерналистских рекомендаций искусственного интеллекта; и (7) контекстуальная слепота, отражающая утрату индивидуализированного понимания пациента в модульных рабочих процессах искусственного интеллекта. Кроме того, в обзоре обобщены решения, предложенные в существующей литературе для устранения этих этических проблем. Выводы: Многоагентные системы искусственного интеллекта усиливают существующие этические проблемы в здравоохранении, распределяя принятие решений и размывая ответствен…
1
Модульные мультиагентные рабочие процессы могут приводить к контекстуальной слепоте, снижая индивидуализированное понимание пациента и способствуя патерналистским рекомендациям.
2
Взаимодействие нескольких агентов создает сложные потоки данных и распределенное принятие решений, усиливая традиционные проблемы медицинского ИИ, включая конфиденциальность, информированное согласие и ответственность за вред.
3
Выявлены семь основных проблем: совокупная непрозрачность, распространение ошибок, сложности распределения ответственности, автоматизационное смещение, ослабление человеческого контроля, риски конфиденциальности и угрозы автономии пациентов.
4
Нарративный обзор обобщил 21 статью об этических проблемах мультиагентных систем ИИ в здравоохранении.
5
Обзор систематизирует предложенные в литературе стратегии смягчения этих этических проблем и подчеркивает, что распределенное принятие решений размывает ответственность.

мультиагентные системы искусственного интеллекта в здравоохранении

этические проблемы и соответствующие стратегии их смягчения, возникающие вследствие децентрализованного принятия решений взаимодействующими системами ИИ

Publication Details
Publication Date
2026-04-28
Journal
Publisher
ISSN
Cited by
14
Access Type
Author Information
Authors
Haitao Song
Hongyu Wang
Zhibin Xie
Lexuan Dai
Zikai Wang
Jingzhe Qian
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%