Иерархические сети внимания для классификации документов
Hierarchical Attention Networks for Document Classification
2016-01-01
SCID: 54.1/2rjdc5a8
Discuss with AI
Иерархические сети вниманиямеханизм вниманияклассификация документовиерархическая структура
Figures from the paper
Abstract (AI)
Zichao Yang, Diyi Yang, Chris Dyer, Xiaodong He, Alex Smola, Eduard Hovy. Материалы конференции 2016 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. 2016.
Key Findings
1
Показано улучшение качества классификации документов (на момент публикации — состояние искусства) на эталонных наборах данных по сравнению с базовыми методами
2
Иерархическая структура сохраняет структуру документа и обеспечивает лучшие представления документов по сравнению с плоскими моделями
3
Представлены иерархические сети внимания, которые моделируют документы на уровне слов и предложений для классификации документов
4
Используются механизмы внимания на уровне слов и предложений для выделения информативных слов и предложений для классификации
Research Object
Модели классификации документов на основе иерархических attention-сетей
Research Subject
Эффективность иерархических механизмов attention (на уровне слов и предложений) для повышения точности классификации документов
Publication Details
Publication Date
2016-01-01
Journal
Publisher
ISSN
Cited by
5043
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Градиентное обучение для распознавания документов1998
Распределённые представления слов и фраз и их композиционность2013
Нейронный машинный перевод посредством совместного обучения выравниванию и переводу2014
Сверточные нейронные сети для классификации предложений2014
Рекурсивные глубокие модели для семантической композицией по дереву тональности2013
Работы, цитирующие эту статью7
Earthquake Transformer — модель глубокого обучения с механизмом внимания для одновременного обнаружения землетрясений и определения фаз2020
Механизм внимания в обработке естественного языка2020
Большие языковые модели (LLM): обзор, технические основы и будущие проблемы2024
ETC: Кодирование длинных и структурированных входных данных в трансформерах2020
Модель «зрение‑язык» для генерации медицинских отчётов и визуального ответа на вопросы: обзор2024
Анализ финансовых настроений: методы и приложения2024
Семантическое сопоставление текстов для документов большого объёма2019