Этика и управление доверием к медицинскому искусственному интеллекту

Обоснование: Расширение применения искусственного интеллекта (ИИ) в здравоохранении привело к технологическим прорывам в традиционной диагностике и лечении, однако сопровождается многочисленными рисками и проблемами. Эти неблагоприятные последствия также рассматриваются как этические проблемы, влияют на надежность и заслуживающий доверия характер медицинского ИИ и требуют управления посредством выявления, прогнозирования и мониторинга. Методы: Мы использовали междисциплинарный подход, выделили пять факторов, влияющих на надежность медицинского ИИ: качество данных, алгоритмическую предвзятость, непрозрачность, безопасность и защищенность, а также распределение ответственности, — и рассмотрели их с технологической, правовой точек зрения, а также с позиций участников и учреждений здравоохранения. На основе этической структуры «этические ценности — этические принципы — этические нормы» предложены соответствующие меры этического управления для обеспечения надежности медицинского ИИ в этической, правовой и регуляторной сферах. Результаты: Медицинские данные преимущественно являются неструктурированными и не имеют единообразной стандартизированной разметки; качество данных непосредственно влияет на качество алгоритмических моделей медицинского ИИ. Алгоритмическая предвзятость может влиять на клинические прогнозы ИИ и усиливать неравенство в сфере здоровья. Непрозрачность алгоритмов влияет на доверие пациентов и врачей к медицинскому ИИ, а алгоритмические ошибки или уязвимости системы безопасности могут создавать значительные риски и причинять вред пациентам. Участие медицинского ИИ в клинической практике может угрожать автономии и достоинству врачей и пациентов. При возникновении происшествий, связанных с медицинским ИИ, распределение ответственности остается неясным. Все эти факторы влияют на доверие людей к медицинскому ИИ. Заключение: Чтобы медицинский ИИ заслуживал доверия, на этическом уровне в качестве основополагающего проектного принципа прежде всего следует рассматривать этическую ориентацию на укрепление здоровья человека. На правовом уровне современный медицинский ИИ не обладает моральным статусом, а люди остаются носителями обязанностей и ответственности. На регуляторном уровне необходимо усилить управление качеством данных, улучш…