Экстрактивное суммирование с помощью ChatGPT для создания достоверных резюме
Extractive Summarization via ChatGPT for Faithful Summary Generation
2023-01-01
SCID: 54.1/htbds698
Discuss with AI
ChatGPTрассуждение по цепочке мыслейэкстрактивное суммированиеобучение в контекстедостоверность резюме
Figures from the paper
Abstract (AI)
Экстрактивное суммирование — важная задача обработки естественного языка, направленная на сокращение объёмных документов до более краткой формы посредством непосредственного извлечения предложений. Недавнее появление больших языковых моделей вызвало значительный интерес в сообществе обработки естественного языка (NLP) благодаря их выдающимся результатам в широком спектре последующих задач. В данной работе сначала проводится всесторонняя оценка эффективности ChatGPT в экстрактивном суммировании и сравнение с традиционными методами дообучения на различных эталонных наборах данных. Результаты экспериментального анализа показывают, что ChatGPT демонстрирует более низкую эффективность экстрактивного суммирования по показателям ROUGE по сравнению с существующими системами обучения с учителем, одновременно достигая более высоких результатов по метрикам оценки на основе больших языковых моделей (LLM). Кроме того, исследуется эффективность контекстного обучения и рассуждений по цепочке мыслей для повышения его результативности. Также установлено, что применение конвейера «извлечение — затем генерация» с ChatGPT обеспечивает значительное улучшение результатов по сравнению с абстрактивными базовыми методами с точки зрения достоверности резюме. Эти наблюдения указывают на потенциальные направления повышения способности ChatGPT создавать достоверные резюме с использованием двухэтапных подходов.
Key Findings
1
Конвейер «сначала извлечение, затем генерация» с использованием ChatGPT значительно повышает достоверность сводок по сравнению с абстрактивными базовыми методами.
2
ChatGPT показывает худшие результаты, чем системы с тонкой настройкой под надзором, при экстрактивном суммировании согласно оценкам ROUGE на различных наборах данных.
3
Несмотря на более низкие оценки ROUGE, ChatGPT превосходит системы с тонкой настройкой по метрикам оценки на основе больших языковых моделей.
4
В работе исследуются контекстное обучение и рассуждение по цепочке мыслей как методы повышения эффективности ChatGPT в экстрактивном суммировании.
5
Двухэтапные подходы от извлечения к генерации рассматриваются как перспективное направление для повышения достоверности суммирования с помощью ChatGPT.
Research Object
Экстрактивное суммирование длинных документов с использованием ChatGPT
Research Subject
Производительность и достоверность экстрактивного суммирования ChatGPT, а также их повышение с помощью обучения в контексте, рассуждений по методу chain-of-thought и конвейера «сначала извлечение, затем генерация»
Publication Details
Publication Date
2023-01-01
Journal
Publisher
ISSN
Cited by
68
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest