Этические вопросы применения многоагентных систем искусственного интеллекта в здравоохранении: нарративный обзор

Введение: Считается, что многоагентные системы искусственного интеллекта способны значительно улучшить цифровое здравоохранение, однако они также создают новые и более серьезные этические проблемы. Такие системы распределяют процесс принятия решений между несколькими взаимодействующими агентами, и эта децентрализованная система принятия решений вызывает этические опасения в медицинской сфере. С одной стороны, она воспроизводит этические проблемы, характерные для традиционных инструментов искусственного интеллекта; с другой стороны, процессы взаимодействия внутри сложных систем порождают новые дилеммы. Цель настоящего нарративного обзора — обобщить этические проблемы, связанные с многоагентными системами искусственного интеллекта в здравоохранении, и рассмотреть соответствующие стратегии их минимизации. Методы: Результаты исследования были обобщены с использованием нарративного подхода. Релевантные публикации были выявлены посредством булевых поисковых запросов в таких базах данных, как PubMed, Scopus и Web of Science. В обзор включена 21 статья, посвященная многоагентному искусственному интеллекту, здравоохранению и этическим вопросам. Результаты: Были выявлены семь ключевых этических проблем: (1) комбинированная непрозрачность, при которой взаимодействующие агенты искусственного интеллекта создают несколько уровней непрозрачного принятия решений; (2) распространение ошибок и трудности с их атрибуцией, что усложняет установление ответственности за клинический вред; (3) усиление зависимости клиницистов и предвзятость автоматизации, способные привести к утрате навыков и чрезмерной опоре на систему; (4) ослабление человеческого надзора, поскольку многоагентные системы искусственного интеллекта функционируют за пределами эффективного контроля со стороны человека; (5) риски для конфиденциальности и безопасности данных, обусловленные сложными потоками данных между агентами; (6) угрозы автономии пациента и информированному согласию вследствие непрозрачных или патерналистских рекомендаций искусственного интеллекта; и (7) контекстуальная слепота, отражающая утрату индивидуализированного понимания пациента в модульных рабочих процессах искусственного интеллекта. Кроме того, в обзоре обобщены решения, предложенные в существующей литературе для устранения этих этических проблем. Выводы: Многоагентные системы искусственного интеллекта усиливают существующие этические проблемы в здравоохранении, распределяя принятие решений и размывая ответствен…