Предвзятость в медицинском искусственном интеллекте: последствия для принятия клинических решений

Предвзятость в медицинском искусственном интеллекте (ИИ) возникает и накапливается на протяжении всего жизненного цикла ИИ. Такая предвзятость может иметь значимые клинические последствия, особенно в приложениях, связанных с принятием клинических решений. При отсутствии мер по ее устранению предвзятый медицинский ИИ может приводить к решениям, не соответствующим надлежащему уровню клинической помощи, а также к сохранению и усилению давних различий в здравоохранении. Мы рассматриваем потенциальные источники предвзятости, возникающие на разных этапах разработки ИИ, и их влияние на алгоритмы ИИ и принятие клинических решений. Предвзятость может возникать в признаках и метках данных, при разработке и оценке моделей, их внедрении и публикации. Недостаточный размер выборки для отдельных групп пациентов может приводить к неоптимальной производительности, заниженной оценке алгоритма и клинически незначимым прогнозам. Отсутствующие данные о состоянии пациентов также могут обусловливать предвзятое поведение модели, включая поддающиеся регистрации, но неслучайно отсутствующие данные, такие как коды диагнозов, а также данные, которые обычно не регистрируются или трудно поддаются регистрации, например социальные детерминанты здоровья. Метки, размеченные экспертами и используемые для обучения моделей с учителем, могут отражать неявные когнитивные предубеждения или практики оказания помощи, не соответствующие надлежащему уровню. Чрезмерная опора на метрики производительности при разработке модели может скрывать предвзятость и снижать клиническую полезность модели. При применении к данным, не входящим в обучающую когорту, производительность модели может ухудшаться по сравнению с предыдущей валидацией, причем неодинаково в разных подгруппах. Взаимодействие конечных пользователей с внедренными решениями также может вносить предвзятость. Наконец, место и авторство разработки и публикации моделей влияют на направления и приоритеты будущего развития медицинского ИИ. Меры по снижению предвзятости необходимо внедрять тщательно; они включают сбор больших и разнообразных наборов данных, статистические методы устранения предвзятости, всестороннюю оценку моделей, акцент на интерпретируемости моделей, а также стандартизированные требования к отчетности о предвзятости и прозрачности. До внедрения в реальную клиническую практику необходима строгая вал...