К прочтению: всесторонний обзор вычислительной убеждающей коммуникации

Убеждение является фундаментальным аспектом коммуникации, влияющим на принятие решений в самых разных контекстах — от повседневных разговоров до ситуаций с высокими ставками, таких как политика, маркетинг и право. Развитие диалоговых систем искусственного интеллекта (ИИ) значительно расширило сферу убеждения, создав как новые возможности, так и риски. Убеждение с помощью ИИ может использоваться в благоприятных целях, однако оно также несет угрозы, связанные с неэтичным воздействием. Кроме того, системы ИИ выступают не только в роли убеждающих субъектов, но и сами подвержены убеждению, что делает их уязвимыми для состязательных атак и усиления предвзятости. Несмотря на стремительный прогресс в создании убедительного контента с помощью ИИ, наше понимание того, что делает убеждение эффективным, остается ограниченным вследствие его изначально субъективного и контекстно-зависимого характера. В этом обзоре мы представляем всесторонний анализ убеждения, организованный вокруг трех ключевых перспектив: (1) ИИ как убеждающий субъект, что охватывает созданный ИИ убедительный контент и его применения; (2) ИИ как объект убеждения, что рассматривает подверженность ИИ влиянию и манипуляции; и (3) ИИ как судья убеждения, что анализирует роль ИИ в оценке стратегий убеждения, выявлении манипуляций и обеспечении этичного убеждения. Мы предлагаем таксономию исследований убеждения и обсуждаем ключевые задачи будущих исследований, направленных на повышение безопасности, справедливости и эффективности убеждения с использованием ИИ, а также на устранение рисков, создаваемых все более способными языковыми моделями.