Социотехнический вред алгоритмических систем: разработка таксономии для снижения вреда

Понимание спектра потенциального вреда, причиняемого алгоритмическими системами, позволяет специалистам лучше предвидеть последствия создаваемых ими систем. Оно также создает предпосылки для внедрения средств контроля, призванных минимизировать вред, возникающий в результате взаимодействия технологий с социальными и культурными процессами. В научной литературе постоянно увеличивается число исследований, выявляющих широкий спектр видов вреда, связанных с различными алгоритмическими технологиями. Однако исследователям и практикам в области вычислительной техники не хватает обобщенного обзора высокого уровня, посвященного вреду от алгоритмических систем. На основе систематического поискового обзора исследований в области вычислительной техники (n=172) мы представляем прикладную таксономию социотехнического вреда, призванную обеспечить более систематическое выявление потенциального вреда в алгоритмических системах. Итоговая таксономия опирается на существующие таксономии, классификации и терминологию и учитывает их. Представлены пять основных тем, связанных с социотехническим вредом, — репрезентационный, распределительный, вред, связанный с качеством обслуживания, межличностный вред и вред для социальных систем и общества, — а также подтемы и описание соответствующих категорий. В заключение обсуждаются проблемы и перспективы будущих исследований.