Анализ расового предвзятого отношения в алгоритме, используемом для управления здоровьем населения

Расовая предвзятость в медицинских алгоритмах. Система здравоохранения США использует коммерческие алгоритмы для принятия медицинских решений. Obermeyer и соавт. обнаружили свидетельства расовой предвзятости в одном широко используемом алгоритме: пациенты чернокожего происхождения, которым алгоритм присваивает тот же уровень риска, на самом деле больнее, чем белые пациенты (см. обзор Benjamin). Авторы оценили, что эта расовая предвзятость уменьшает число чернокожих пациентов, определяемых для дополнительной помощи, более чем вдвое. Предвзятость возникает потому, что алгоритм использует затраты на здравоохранение как прокси для потребностей в здравоохранении. На чернокожих пациентов с одинаковым уровнем потребностей тратят меньше средств, и алгоритм ошибочно делает вывод, что чернокожие пациенты здоровее, чем одинаково больные белые пациенты. Переформулирование алгоритма таким образом, чтобы он больше не использовал затраты как прокси для потребностей, устраняет расовую предвзятость в прогнозировании того, кому необходима дополнительная помощь. Science, этот выпуск, с. 447; см. также с. 421.