Использование тонкой настройки больших языковых моделей для анализа тональности на основе аспектов в условиях ограниченных ресурсов

Наша тонко настроенная большая языковая модель (LLM) эффективнее работает в условиях ограниченных ресурсов, чем предыдущие методы, соответствующие передовому уровню (SOTA). LLaMA 3 8B, настроенная с использованием инструкций, демонстрирует новые результаты уровня SOTA для задач ACSA и E2E на наборе данных Rest-16, а также для задач ACSA и TASD на наборе GERestaurant. Обучение по нескольким примерам показывает перспективные результаты, однако тонко настроенные LLM обычно обеспечивают более высокое качество и большую эффективность. Для тонкой настройки LLM, как правило, достаточно кратких промптов при условии использования хорошо оптимизированных гиперпараметров. В настоящем исследовании изучается применение тонко настроенных открытых больших языковых моделей (LLM) для анализа тональности на основе аспектов (ABSA) и проводится сравнение их эффективности с методами передового уровня (SOTA) на англоязычных и немецкоязычных наборах данных с акцентом на сценарии с малым объёмом ресурсов. Результаты по четырём подзадачам ABSA — обнаружению категорий аспектов (ACD), анализу тональности категорий аспектов (ACSA), сквозному анализу тональности на основе аспектов (E2E) и обнаружению тональности целевого аспекта (TASD) — показывают, что тонко настроенные LLM лучше справляются с ограниченным объёмом обучающих данных, чем современные подходы уровня SOTA, демонстрируя стабильные результаты при различных размерах наборов данных. Формулировка промптов и настройка гиперпараметров влияют на эффективность, однако кратких промптов часто достаточно при эффективной тонкой настройке. Для оценки способности к обобщению мы проводим абляционное исследование на нескольких языках, в различных предметных областях и с использованием разных архитектур LLM. Полученные результаты подтверждают, что прирост эффективности выходит за пределы исходной постановки задачи, что свидетельствует об устойчивости тонко настроенных LLM в различных языках и предметных областях. Мы получаем новые результаты уровня SOTA на наборах данных Rest-16 и GERestaurant и демонстрируем практическую применимость тонкой настройки LLM для задач ABSA в условиях ограниченного объёма обучающих материалов.