Обескураживающе простой подход к извлечению сущностей и отношений

A Frustratingly Easy Approach for Entity and Relation Extraction
Danqi Chen, Zexuan Zhong
2021-01-01

SciERCизвлечение сущностей и отношенийглобальный контекстконвейерный подходизвлечение отношений
Сквозное извлечение отношений направлено на идентификацию именованных сущностей и извлечение отношений между ними. В большинстве современных работ эти две подзадачи моделируются совместно: либо в рамках единого структурированного предсказания, либо посредством многозадачного обучения с использованием общих представлений. В данной работе мы представляем простой конвейерный подход к извлечению сущностей и отношений и устанавливаем новый лучший результат на стандартных наборах данных (ACE04, ACE05 и SciERC), получая абсолютное улучшение показателя F1 для извлечения отношений на 1,7–2,8 процентного пункта по сравнению с предыдущими совместными моделями с теми же предварительно обученными кодировщиками. Наш подход, по сути, основан на двух независимых кодировщиках и лишь использует модель сущностей для формирования входных данных модели отношений. В серии тщательных исследований мы подтверждаем важность обучения различных контекстных представлений для сущностей и отношений, раннего объединения информации о сущностях в модели отношений и учета глобального контекста. Наконец, мы также представляем эффективную аппроксимацию нашего подхода, которая при выводе требует лишь одного прохода через оба кодировщика — сущностей и отношений, — обеспечивая ускорение в 8–16 раз при небольшом снижении точности.
1
Простой конвейерный подход к извлечению сущностей и отношений достигает наилучших результатов на наборах данных ACE04, ACE05 и SciERC.
2
Эффективная аппроксимация сокращает вычисления при выводе, выполняя по одному проходу каждого кодировщика, и обеспечивает ускорение в 8–16 раз при небольшом снижении точности.
3
Раннее объединение информации о сущностях с моделью отношений и учет глобального контекста дополнительно повышают качество извлечения.
4
Подход повышает F1 отношений на 1,7–2,8 абсолютных пункта по сравнению с предыдущими совместными моделями при использовании тех же предварительно обученных кодировщиков.
5
Для качества извлечения важно использовать различные контекстные представления для сущностей и отношений.

системы сквозного извлечения именованных сущностей и отношений

точность, контекстные представления, слияние информации и использование глобального контекста, а также эффективность вывода в конвейерном извлечении сущностей и отношений

Publication Details
Publication Date
2021-01-01
Journal
Publisher
ISSN
Cited by
464
Access Type
Author Information
Authors
Danqi Chen
Zexuan Zhong
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%