🧜Песнь сирены в океане ИИ: обзор галлюцинаций в больших языковых моделях

🧜Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models
Yue Zhang, Yu Zhang, Longyue Wang, Deng Cai, Yafu Li, Leyang Cui, Xinting Huang, Lemao Liu, Tingchen Fu, Yulong Chen, Anh Tuan Luu, Freda Shi, Wei Bi, Enbo Zhao, Shuming Shi
2025-07-10

галлюцинации LLMоценочные бенчмаркиобнаружение галлюцинацийсмягчение галлюцинацийбольшие языковые модели
Хотя большие языковые модели (LLM) продемонстрировали впечатляющие возможности в широком спектре прикладных задач, существенную обеспокоенность вызывает их склонность к галлюцинациям: иногда LLM генерируют содержание, которое отклоняется от пользовательского ввода, противоречит ранее сформированному контексту или не соответствует установленным знаниям о мире. Это явление представляет собой серьезную проблему для надежности LLM в сценариях реального мира. В этой статье мы рассматриваем современные исследования, посвященные обнаружению, объяснению и снижению проявлений галлюцинаций, уделяя особое внимание уникальным вызовам, связанным с LLM. Мы представляем таксономии феноменов галлюцинаций в LLM и оценочных бенчмарков, анализируем существующие подходы к снижению галлюцинаций в LLM и обсуждаем потенциальные направления дальнейших исследований.
1
Рассматриваются методы обнаружения, объяснения и устранения галлюцинаций с акцентом на специфические для LLM сложности.
2
Галлюцинации представляют собой существенную проблему для надёжности применения LLM в реальных сценариях.
3
Большие языковые модели могут генерировать содержание, отклоняющееся от пользовательского ввода, противоречащее предыдущему контексту или установленным знаниям о мире.
4
Статья определяет потенциальные направления дальнейших исследований для лучшего понимания и снижения галлюцинаций LLM.
5
В статье систематизируются явления галлюцинаций LLM и существующие бенчмарки для их оценки.

галлюцинации в больших языковых моделях (LLM)

обнаружение, объяснение, оценка и снижение проявлений галлюцинаций в больших языковых моделях

Publication Details
Publication Date
2025-07-10
Journal
Publisher
ISSN
Cited by
2249
Access Type
Author Information
Authors
Yue Zhang
Yu Zhang
Longyue Wang
Deng Cai
Yafu Li
Leyang Cui
Xinting Huang
Lemao Liu
Tingchen Fu
Yulong Chen
Anh Tuan Luu
Freda Shi
Wei Bi
Enbo Zhao
Shuming Shi
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%