Борьба с дезинформацией в эпоху больших языковых моделей: возможности и вызовы

Дезинформация, включая фейковые новости и слухи, представляет серьезную угрозу для информационных экосистем и общественного доверия. Появление больших языковых моделей (LLM) обладает значительным потенциалом для преобразования подходов к борьбе с дезинформацией. В целом LLM могут стать обоюдоострым инструментом в этой борьбе. С одной стороны, LLM открывают перспективные возможности для противодействия дезинформации благодаря обширным знаниям о мире и развитым способностям к рассуждению. В связи с этим возникает вопрос: можно ли использовать LLM для борьбы с дезинформацией? С другой стороны, ключевая проблема заключается в том, что LLM можно легко применять для масштабной генерации вводящей в заблуждение дезинформации. Поэтому возникает другой важный вопрос: как бороться с дезинформацией, создаваемой LLM? В данной статье мы сначала систематически рассматриваем историю борьбы с дезинформацией до появления LLM. Затем описываем текущие усилия и представляем перспективы по каждому из этих двух фундаментальных вопросов. Цель данного обзорного исследования — содействовать развитию методов использования LLM для борьбы с дезинформацией и призвать к междисциплинарному сотрудничеству различных заинтересованных сторон в противодействии дезинформации, создаваемой LLM.