Песнь сирен в океане ИИ: обзор галлюцинаций в больших языковых моделях

Хотя большие языковые модели (LLM) продемонстрировали выдающиеся возможности в ряде прикладных задач, существенной проблемой является их склонность к проявлению галлюцинаций: LLM иногда генерируют содержимое, которое расходится с вводом пользователя, противоречит ранее сгенерированному контексту или не соответствует общепринятым знаниям о мире. Это явление представляет значительную проблему для надежности LLM в реальных сценариях. В данной работе мы обзорно рассматриваем недавние исследования по обнаружению, объяснению и смягчению галлюцинаций, с акцентом на уникальные сложности, которые создают LLM. Мы представляем таксономии явлений галлюцинаций LLM и методик оценки, анализируем существующие подходы, направленные на снижение галлюцинаций LLM, и обсуждаем возможные направления будущих исследований.