Станут ли люди в контуре управления боргами? Преимущества и недостатки работы с ИИ

Мы анализируем, как рекомендации искусственного интеллекта влияют на взаимодополняемость людей и ИИ, в частности на то, что известно людям, но неизвестно ИИ, — «уникальное человеческое знание». В рамках многоаспектного исследования, включающего аналитическую модель, экспериментальные исследования и имитационное исследование, мы установили, что человеческие решения сближаются и становятся сходными, повышая индивидуальную точность. Однако по мере повышения общей индивидуальной точности группы людей снижается объем уникальных знаний отдельных людей. На основании этого вывода мы утверждаем, что люди, взаимодействующие с ИИ, ведут себя подобно «боргам», то есть кибернетическим существам с высокими индивидуальными показателями, но лишённым человеческой индивидуальности. Мы показываем, что утрата уникальных человеческих знаний может привести к ряду нежелательных последствий в различных средах принятия решений человеком и ИИ. Мы демонстрируем это негативное влияние на «мудрость толпы». Результаты моделирования, основанные на наших экспериментальных данных, показывают, что группы людей, взаимодействующих с ИИ, значительно менее эффективны по сравнению с группами людей, не получающими помощи ИИ. Мы предлагаем методы снижения негативных последствий для создания условий, позволяющих сочетать преимущества обоих подходов, например посредством персонализации рекомендаций ИИ. Мы показываем, что такие вмешательства хорошо работают как на индивидуальном уровне, так и в условиях «мудрости толпы».