Регулирование клинического искусственного интеллекта (ИИ) в эпоху агентных систем: неограниченное недетерминированное клиническое программное обеспечение (UNDCS) для здравоохранения

В недавней статье Weissman и соавт.1 рассмотрели, в какой степени большие языковые модели (LLM) на основе искусственного интеллекта (ИИ) генерируют результаты поддержки принятия клинических решений (CDS), соответствующие критериям регулируемых медицинских изделий, и призвали к разработке новых нормативных требований для систем CDS на основе LLM. В настоящей работе мы рассматриваем предложенные положения, выделяя те из них, которые уже учтены в действующих руководствах и не требуют создания новых нормативных рамок, а также обосновывая необходимость нового регулирования «обобщённых» систем поддержки принятия клинических решений (CDSS), не привязанных к конкретным клиническим показаниям. Этот пробел в регулировании мы рассматриваем в контексте обзора литературы, в которой проводится различие между ограниченными и неограниченными системами ИИ. Мы также обозначаем конкретные области, в которых могут потребоваться новые нормативные требования, а также стратегии снижения рисков, которые могут быть включены в новые руководства.