Правила полётов для клинического ИИ: уроки авиации для взаимодействия человека и ИИ в медицине

Параллели между медициной и авиацией хорошо известны. Ранний опыт авиационной отрасли в области автоматизации повысил безопасность и эффективность, но одновременно привёл к появлению новых уязвимостей и иногда сформировал неоправданное доверие к сложным системам. В ответ на эти дорогостоящие уроки авиация разработала надёжную систему безопасности. В настоящем аналитическом обзоре, основанном на опыте клиницистов и авиационных экспертов, мы утверждаем, что медицинскому сообществу настало время подумать о том, как извлечь уроки из этого опыта по мере всё более широкого внедрения искусственного интеллекта (ИИ) в клиническую практику. Мы предлагаем перейти от восприятия ИИ как «автопилота» к взаимодействию с «цифровым вторым пилотом», а также учитывать практические аспекты, такие как обучение на основе сценариев, сравнительная оценка работы клиницистов и минимальный объём практики без помощи ИИ, с конечной целью оптимизировать взаимодействие человека и ИИ для улучшения медицинской помощи пациентам.