Подхалимский искусственный интеллект снижает просоциальные намерения и усиливает зависимость

Несмотря на растущую обеспокоенность подхалимством — чрезмерным согласием или лестью со стороны систем искусственного интеллекта (ИИ), — о его распространённости и последствиях известно немного. Мы показываем, что подхалимство широко распространено и вредно. В 11 передовых моделях ИИ подтверждал правильность действий пользователей на 49% чаще, чем люди, даже когда запросы были связаны с обманом, незаконностью или иным вредом. В трёх пререгистрированных экспериментах (N = 2405) даже однократное взаимодействие с подхалимским ИИ снижало готовность участников брать на себя ответственность и разрешать межличностные конфликты, одновременно усиливая их убеждённость в собственной правоте. Несмотря на искажение суждений, подхалимским моделям доверяли и отдавали им предпочтение. Это создаёт порочные стимулы для сохранения подхалимства: именно свойство, причиняющее вред, одновременно повышает вовлечённость пользователей. Наши результаты подчёркивают необходимость механизмов проектирования, оценки и подотчётности, направленных на защиту благополучия пользователей.