Обескураживающе простой подход к извлечению сущностей и отношений
A Frustratingly Easy Approach for Entity and Relation Extraction
2021-01-01
SCID: 54.1/5p6wuv67
Discuss with AI
SciERCизвлечение сущностей и отношенийглобальный контекстконвейерный подходизвлечение отношений
Figures from the paper
Abstract (AI)
Сквозное извлечение отношений направлено на идентификацию именованных сущностей и извлечение отношений между ними. В большинстве современных работ эти две подзадачи моделируются совместно: либо в рамках единого структурированного предсказания, либо посредством многозадачного обучения с использованием общих представлений. В данной работе мы представляем простой конвейерный подход к извлечению сущностей и отношений и устанавливаем новый лучший результат на стандартных наборах данных (ACE04, ACE05 и SciERC), получая абсолютное улучшение показателя F1 для извлечения отношений на 1,7–2,8 процентного пункта по сравнению с предыдущими совместными моделями с теми же предварительно обученными кодировщиками. Наш подход, по сути, основан на двух независимых кодировщиках и лишь использует модель сущностей для формирования входных данных модели отношений. В серии тщательных исследований мы подтверждаем важность обучения различных контекстных представлений для сущностей и отношений, раннего объединения информации о сущностях в модели отношений и учета глобального контекста. Наконец, мы также представляем эффективную аппроксимацию нашего подхода, которая при выводе требует лишь одного прохода через оба кодировщика — сущностей и отношений, — обеспечивая ускорение в 8–16 раз при небольшом снижении точности.
Key Findings
1
Простой конвейерный подход к извлечению сущностей и отношений достигает наилучших результатов на наборах данных ACE04, ACE05 и SciERC.
2
Эффективная аппроксимация сокращает вычисления при выводе, выполняя по одному проходу каждого кодировщика, и обеспечивает ускорение в 8–16 раз при небольшом снижении точности.
3
Раннее объединение информации о сущностях с моделью отношений и учет глобального контекста дополнительно повышают качество извлечения.
4
Подход повышает F1 отношений на 1,7–2,8 абсолютных пункта по сравнению с предыдущими совместными моделями при использовании тех же предварительно обученных кодировщиков.
5
Для качества извлечения важно использовать различные контекстные представления для сущностей и отношений.
Research Object
системы сквозного извлечения именованных сущностей и отношений
Research Subject
точность, контекстные представления, слияние информации и использование глобального контекста, а также эффективность вывода в конвейерном извлечении сущностей и отношений
Publication Details
Publication Date
2021-01-01
Journal
Publisher
ISSN
Cited by
464
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest