🧜Песнь сирены в океане ИИ: обзор галлюцинаций в больших языковых моделях
🧜Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models
2025-07-10
SCID: 54.1/ny8q8x2v
Discuss with AI
галлюцинации LLMоценочные бенчмаркиобнаружение галлюцинацийсмягчение галлюцинацийбольшие языковые модели
Figures from the paper
Abstract (AI)
Хотя большие языковые модели (LLM) продемонстрировали впечатляющие возможности в широком спектре прикладных задач, существенную обеспокоенность вызывает их склонность к галлюцинациям: иногда LLM генерируют содержание, которое отклоняется от пользовательского ввода, противоречит ранее сформированному контексту или не соответствует установленным знаниям о мире. Это явление представляет собой серьезную проблему для надежности LLM в сценариях реального мира. В этой статье мы рассматриваем современные исследования, посвященные обнаружению, объяснению и снижению проявлений галлюцинаций, уделяя особое внимание уникальным вызовам, связанным с LLM. Мы представляем таксономии феноменов галлюцинаций в LLM и оценочных бенчмарков, анализируем существующие подходы к снижению галлюцинаций в LLM и обсуждаем потенциальные направления дальнейших исследований.
Key Findings
1
Рассматриваются методы обнаружения, объяснения и устранения галлюцинаций с акцентом на специфические для LLM сложности.
2
Галлюцинации представляют собой существенную проблему для надёжности применения LLM в реальных сценариях.
3
Большие языковые модели могут генерировать содержание, отклоняющееся от пользовательского ввода, противоречащее предыдущему контексту или установленным знаниям о мире.
4
Статья определяет потенциальные направления дальнейших исследований для лучшего понимания и снижения галлюцинаций LLM.
5
В статье систематизируются явления галлюцинаций LLM и существующие бенчмарки для их оценки.
Research Object
галлюцинации в больших языковых моделях (LLM)
Research Subject
обнаружение, объяснение, оценка и снижение проявлений галлюцинаций в больших языковых моделях
Publication Details
Publication Date
2025-07-10
Journal
Publisher
ISSN
Cited by
2249
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai15
Исследование пределов трансферного обучения с помощью унифицированного преобразователя текста в текст2019
LLaMA: открытые и эффективные базовые языковые модели2023
Обзор больших языковых моделей2026
Обзор методов оценки больших языковых моделей2024
Модель языка на основе рекуррентной нейронной сети2010
Интеллект, компилируемый через аффордансы: наблюдаемое сопоставление когнитивных импедансов для LLM-интегрированных систем без мета-доступа2020
Обучение языковых моделей следованию инструкциям с использованием обратной связи от человека2022
Затерянные в середине: как языковые модели используют длинные контексты2024
Генеративные агенты: интерактивные симулякры человеческого поведения2023
PaLM: Масштабирование языкового моделирования с помощью Pathways2022
Технический отчет о GPT-42023
Последние достижения в области обработки естественного языка с использованием крупномасштабных предварительно обученных языковых моделей: обзор2023
Языковые модели с дополнением извлечённой информацией в контексте2023
BLOOM: многоязычная открытая языковая модель с 176 миллиардами параметров2022
Проблемы и применения больших языковых моделей2023
Работы, цитирующие эту статью20
Обзор больших языковых моделей2026
Генерация с дополнением извлечённой информацией для больших языковых моделей: обзор2023
Обзор методов оценки больших языковых моделей2024
Всесторонний обзор больших языковых моделей2025
Объединение больших языковых моделей и графов знаний: дорожная карта2024
ChatDev: Коммуницирующие агенты для разработки программного обеспечения2024
Объяснимость больших языковых моделей: обзор2024
Большие языковые модели для кибербезопасности: систематический обзор литературы2025
Расширение возможностей биомедицинских исследований с помощью ИИ-агентов2024
Когда большие языковые модели встречаются с кибербезопасностью: систематический обзор литературы2025
Исследование интеллектуальных агентов на основе больших языковых моделей: определения, методы и перспективы2026
Борьба с дезинформацией в эпоху больших языковых моделей: возможности и вызовы2024
Обзор больших языковых моделей для генерации кода2025
Развенчание мифов об агентах программной инженерии на основе больших языковых моделей2025
Улучшение применения больших языковых моделей в биомедицине с помощью генерации с дополнением извлечённой информацией: систематический обзор, метаанализ и рекомендации по клинической разработке2025
AI-агенты под угрозой: обзор ключевых проблем безопасности и перспективных направлений2025
Галлюцинации больших языковых моделей при практической генерации кода: проявления, механизм и методы устранения2025
ИИ-агент на основе большой языковой модели для исследования органических полупроводниковых приборов2024
GenAL: генеративный агент для адаптивного обучения2025
Мультиагентная система на основе большой языковой модели для анализа данных дистанционного зондирования2026