Экстрактивное суммирование с помощью ChatGPT для создания достоверных резюме

Extractive Summarization via ChatGPT for Faithful Summary Generation
Haopeng Zhang, Xiao Liu, Jiawei Zhang
2023-01-01

ChatGPTрассуждение по цепочке мыслейэкстрактивное суммированиеобучение в контекстедостоверность резюме
Экстрактивное суммирование — важная задача обработки естественного языка, направленная на сокращение объёмных документов до более краткой формы посредством непосредственного извлечения предложений. Недавнее появление больших языковых моделей вызвало значительный интерес в сообществе обработки естественного языка (NLP) благодаря их выдающимся результатам в широком спектре последующих задач. В данной работе сначала проводится всесторонняя оценка эффективности ChatGPT в экстрактивном суммировании и сравнение с традиционными методами дообучения на различных эталонных наборах данных. Результаты экспериментального анализа показывают, что ChatGPT демонстрирует более низкую эффективность экстрактивного суммирования по показателям ROUGE по сравнению с существующими системами обучения с учителем, одновременно достигая более высоких результатов по метрикам оценки на основе больших языковых моделей (LLM). Кроме того, исследуется эффективность контекстного обучения и рассуждений по цепочке мыслей для повышения его результативности. Также установлено, что применение конвейера «извлечение — затем генерация» с ChatGPT обеспечивает значительное улучшение результатов по сравнению с абстрактивными базовыми методами с точки зрения достоверности резюме. Эти наблюдения указывают на потенциальные направления повышения способности ChatGPT создавать достоверные резюме с использованием двухэтапных подходов.
1
Конвейер «сначала извлечение, затем генерация» с использованием ChatGPT значительно повышает достоверность сводок по сравнению с абстрактивными базовыми методами.
2
ChatGPT показывает худшие результаты, чем системы с тонкой настройкой под надзором, при экстрактивном суммировании согласно оценкам ROUGE на различных наборах данных.
3
Несмотря на более низкие оценки ROUGE, ChatGPT превосходит системы с тонкой настройкой по метрикам оценки на основе больших языковых моделей.
4
В работе исследуются контекстное обучение и рассуждение по цепочке мыслей как методы повышения эффективности ChatGPT в экстрактивном суммировании.
5
Двухэтапные подходы от извлечения к генерации рассматриваются как перспективное направление для повышения достоверности суммирования с помощью ChatGPT.

Экстрактивное суммирование длинных документов с использованием ChatGPT

Производительность и достоверность экстрактивного суммирования ChatGPT, а также их повышение с помощью обучения в контексте, рассуждений по методу chain-of-thought и конвейера «сначала извлечение, затем генерация»

Publication Details
Publication Date
2023-01-01
Journal
Publisher
ISSN
Cited by
68
Access Type
Author Information
Authors
Haopeng Zhang
Xiao Liu
Jiawei Zhang
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%