🧜Песнь сирены в океане ИИ: обзор галлюцинаций в больших языковых моделях

Хотя большие языковые модели (LLM) продемонстрировали впечатляющие возможности в широком спектре прикладных задач, существенную обеспокоенность вызывает их склонность к галлюцинациям: иногда LLM генерируют содержание, которое отклоняется от пользовательского ввода, противоречит ранее сформированному контексту или не соответствует установленным знаниям о мире. Это явление представляет собой серьезную проблему для надежности LLM в сценариях реального мира. В этой статье мы рассматриваем современные исследования, посвященные обнаружению, объяснению и снижению проявлений галлюцинаций, уделяя особое внимание уникальным вызовам, связанным с LLM. Мы представляем таксономии феноменов галлюцинаций в LLM и оценочных бенчмарков, анализируем существующие подходы к снижению галлюцинаций в LLM и обсуждаем потенциальные направления дальнейших исследований.