Объяснимость искусственного интеллекта в здравоохранении: междисциплинарная перспектива

ОБОСНОВАНИЕ: Объяснимость является одной из наиболее активно обсуждаемых тем в контексте применения искусственного интеллекта (ИИ) в здравоохранении. Несмотря на то что было показано, что системы на основе ИИ превосходят человека в выполнении некоторых аналитических задач, отсутствие объяснимости продолжает вызывать критику. Однако объяснимость представляет собой не только технологическую проблему; она поднимает широкий спектр медицинских, правовых, этических и социальных вопросов, требующих всестороннего изучения. В настоящей работе представлена комплексная оценка роли объяснимости в медицинском ИИ и проведена этическая оценка значения объяснимости для внедрения инструментов на основе ИИ в клиническую практику. МЕТОДЫ: На примере систем поддержки принятия клинических решений на основе ИИ мы применили междисциплинарный подход для анализа значимости объяснимости медицинского ИИ с технологической, правовой, медицинской и пациентской точек зрения. На основании результатов этого концептуального анализа была проведена этическая оценка с использованием «Принципов биомедицинской этики» Бошана и Чилдресса — автономии, благодеяния, непричинения вреда и справедливости — в качестве аналитической основы для определения необходимости объяснимости в медицинском ИИ. РЕЗУЛЬТАТЫ: Каждая из рассматриваемых областей выделяет свой набор ключевых аспектов и ценностей, имеющих значение для понимания роли объяснимости в клинической практике. С технологической точки зрения объяснимость необходимо рассматривать как с позиции способов её достижения, так и с позиции того, что является полезным с точки зрения разработки. При рассмотрении правовой перспективы мы определили информированное согласие, сертификацию и одобрение в качестве медицинских изделий, а также ответственность как ключевые аспекты, связанные с объяснимостью. Медицинская перспектива и перспектива пациентов подчёркивают важность учёта взаимодействия между людьми и медицинским ИИ. Мы заключаем, что отказ от объяснимости в системах поддержки принятия клинических решений создаёт угрозу основополагающим этическим ценностям медицины.