Клинический искусственный интеллект: непрозрачность, подотчётность, ответственность и юридическая ответственность

Целью данного обзора литературы было подготовить нарративный обзор, основанный на систематическом подходе, для критического выявления и изучения проблем подотчётности, а также распределения ответственности и юридической ответственности между клиницистами и разработчиками при использовании непрозрачных систем на основе искусственного интеллекта (ИИ) для принятия клинических решений. В обзоре рассматриваются следующие вопросы: (а) допустимо ли для клинициста использовать непрозрачную систему искусственного интеллекта (AIS) при принятии клинических решений и (б) каким образом распределялись бы ответственность и юридическая ответственность, если пациенту был причинён вред в результате следования клиницистом рекомендации AIS. Был проведён систематический поиск, отбор и анализ литературы в девяти базах данных, включая материалы трёх органов регулирования профессиональной деятельности в сфере клинической медицины, а также релевантную «серую» литературу государственных и негосударственных организаций. Литература оценивалась с применением критериев включения и исключения; из публикаций, признанных релевантными для данного обзора, извлекались данные. Обзор выявил многочисленные проблемы, связанные с непрозрачностью, подотчётностью, ответственностью и юридической ответственностью при рассмотрении роли разработчиков и клиницистов в создании и использовании AIS для принятия клинических решений. При использовании непрозрачной AIS обеспечение подотчётности становится проблематичным, а распределение ответственности остаётся в определённой степени неясным. Правовой анализ помог бы заинтересованным сторонам понять свои обязанности и подготовиться к нежелательному сценарию, при котором пациенту будет причинён вред вследствие использования AIS.