Об этике алгоритмического принятия решений в здравоохранении

В последние годы множество широко цитируемых научных публикаций сообщают о том, что алгоритмы машинного обучения превосходят клиницистов в медицинской диагностике или формировании рекомендаций по лечению. Это вызвало интерес к внедрению таких алгоритмов с целью повышения качества принятия решений в здравоохранении. В данной статье мы утверждаем, что внедрение алгоритмов машинного обучения не столько напрямую расширяет возможности клиницистов и учреждений здравоохранения по принятию решений, сколько влечёт за собой компромиссы на эпистемическом и нормативном уровнях. Хотя применение машинного обучения может повысить точность медицинской диагностики, это достигается ценой непрозрачности при оценке надёжности конкретного диагноза. Опираясь на литературу по социальной эпистемологии и моральной ответственности, мы утверждаем, что рассматриваемая неопределённость потенциально подрывает эпистемический авторитет клиницистов. Кроме того, мы раскрываем потенциальные риски применения машинного обучения в здравоохранении, связанные с патернализмом, моральной ответственностью и справедливостью. Наконец, мы обсуждаем, каким образом внедрение алгоритмов машинного обучения может изменить нормы доказательности в медицинской диагностике. В связи с этим мы надеемся заложить основу для дальнейшего этического осмысления возможностей и рисков использования машинного обучения для совершенствования принятия решений в здравоохранении.