Устранение непрозрачности с помощью машинного обучения

Искусственный интеллект и машинное обучение предоставляют мощные инструменты для решения задач в самых разных областях — от уголовного правосудия до биологии человека и изменения климата. Отчасти сила этих инструментов обусловлена их способностью делать прогнозы и извлекать полезную информацию о сложных системах реального мира без необходимости понимать принципы работы этих систем. Однако такие инструменты машинного обучения часто столь же непрозрачны, как и лежащие в их основе системы, — из-за их сложности, неинтуитивности, намеренной секретности либо сочетания всех трех факторов. В обширной формирующейся научной литературе рассматриваются проблемы, обусловленные непрозрачностью систем машинного обучения. В основном эта литература сосредоточена на преимуществах и трудностях предоставления информации неспециалистам, например гражданам, на которых влияют решения государственных органов, принимаемые с использованием алгоритмов. В данной статье мы исследуем потенциал машинного обучения в устранении непрозрачности, то есть в содействии научному пониманию часто сложных и неинтуитивных систем реального мира, которые анализируют алгоритмы машинного обучения. На основе многочисленных примеров из передовых научных исследований мы утверждаем, что алгоритмы машинного обучения способны способствовать развитию фундаментального научного знания, а намеренная секретность в отношении инструментов машинного обучения ограничивает этот познавательный процесс. Мы рассматриваем причины, по которым разработчики, вероятно, сохраняют системы машинного обучения в тайне, а также издержки и преимущества такой секретности. Наконец, опираясь на инструментарий инновационной политики, мы предлагаем способы снижения уровня секретности, чтобы машинное обучение помогало нам не только взаимодействовать со сложными и неинтуитивными системами реального мира, но и понимать их.