Ментальные модели автономности и разумности формируют реакции на ИИ

В нарративах об искусственном интеллекте (ИИ) автономность, то есть способность к самоуправлению, переплетается с разумностью, то есть способностью ощущать и чувствовать. Агенты ИИ, автономно выполняющие задачи, и компаньоны, распознающие и выражающие эмоции, могут активировать соответственно ментальные модели автономности и разумности, вызывая различные реакции. Чтобы проверить эту возможность, мы провели три пилотных исследования (N = 374) и четыре предварительно зарегистрированных эксперимента с виньетками, в которых ИИ описывался как автономный, разумный, одновременно автономный и разумный либо ни автономный, ни разумный (N = 2 702). Активация ментальной модели разумности сильнее, чем автономность, повышала общее восприятие наличия разума (когнитивных и эмоциональных способностей) и морального статуса, тогда как автономность сильнее, чем разумность, повышала воспринимаемую угрозу. Разумность также сильнее повышала воспринимаемую автономность, чем автономность — воспринимаемую разумность. Согласно метаанализу, проведённому в рамках статьи, в среднем разумность сильнее изменяла реакции, чем автономность. Разграничивая различные ментальные модели ИИ, мы можем более точно изучать взаимодействие человека и ИИ, чтобы лучше ориентироваться в детальной разработке антропоморфизированного ИИ и интерфейсов для составления запросов.