Галлюцинации больших языковых моделей при практической генерации кода: проявления, механизм и методы устранения

Генерация кода направлена на автоматическое создание кода на основе заданных требований, что существенно повышает эффективность разработки. Современные подходы на основе больших языковых моделей (LLM) продемонстрировали многообещающие результаты и произвели революцию в задаче генерации кода. Несмотря на высокую эффективность, LLM часто генерируют галлюцинирующий контент, особенно в сценариях генерации кода, требующих обработки сложных контекстных зависимостей в практических процессах разработки. Хотя в предыдущих исследованиях уже анализировались галлюцинации при генерации кода с использованием LLM, они были ограничены генерацией отдельных функций. В данной работе мы проводим эмпирическое исследование проявлений, механизмов и методов устранения галлюцинаций LLM в более практичных и сложных контекстах разработки на уровне репозитория. Сначала мы вручную исследуем результаты генерации кода, полученные с помощью шести ведущих LLM, чтобы разработать таксономию галлюцинаций в коде, генерируемом LLM. Затем подробно характеризуем феномен галлюцинаций и анализируем его распределение между различными моделями. После этого мы анализируем причины галлюцинаций и выявляем четыре потенциальных фактора, способствующих их возникновению. Наконец, мы предлагаем метод устранения галлюцинаций на основе генерации с дополненным поиском (retrieval-augmented generation, RAG), который демонстрирует стабильную эффективность для всех исследованных LLM.