Встраивание графа знаний посредством трансляций на гиперплоскостях

Knowledge Graph Embedding by Translating on Hyperplanes
Zhen Wang, Jianwen Zhang, Jianlin Feng, Zheng Chen, Jianlin Feng
2014-06-21

TransETransHвстраивание графа знанийпрогнозирование связейперенос на гиперплоскости
Мы рассматриваем задачу встраивания крупномасштабного графа знаний, состоящего из сущностей и отношений, в непрерывное векторное пространство. TransE — это недавно предложенный перспективный метод, обладающий высокой эффективностью и обеспечивающий современную предсказательную точность. Мы обсуждаем несколько свойств отображения отношений, которые следует учитывать при встраивании, такие как рефлексивность, «один-ко-многим», «многие-ко-одному» и «многие-ко-многим», и отмечаем, что TransE плохо справляется с этими свойствами. Некоторые более сложные модели способны сохранять эти свойства отображения, но при этом теряют в эффективности. Для лучшего компромисса между емкостью модели и эффективностью мы предлагаем TransH, который моделирует отношение как гиперплоскость совместно с операцией трансляции на ней. Такой подход лучше сохраняет указанные свойства отношений при почти той же вычислительной сложности, что и TransE. Кроме того, поскольку практические графы знаний часто далеки от полноты, важно правильно формировать отрицательные примеры, чтобы уменьшить число ложных негативных меток при обучении. Используя свойство отношения «один-ко-многим/многие-ко-одному», мы предлагаем простой прием для снижения вероятности ложного негативного разметки. Мы проводим обширные эксперименты по задаче предсказания связей, классификации триплетов и извлечения фактов на эталонных наборах данных, таких как WordNet и Freebase. Эксперименты показывают, что TransH обеспечивает существенное улучшение предсказательной точности по сравнению с TransE при сопоставимой масштабируемости.
1
В работе предложен простой метод отрицательной выборки, использующий свойства отношений один-ко-многим/многие-к-одному для уменьшения ложных негативных меток при обучении.
2
TransE плохо моделирует свойства отображения отношений, такие как рефлексивность, один-ко-многим, многие-к-одному и многие-ко-многим.
3
TransH обеспечивает существенные улучшения по точности предсказаний по сравнению с TransE на эталонных наборах данных (WordNet, Freebase), при сопоставимой масштабируемости и сложности модели.
4
TransH сохраняет почти ту же эффективность, что и TransE, но улучшает способность обрабатывать сложные отображения отношений, что подтверждается экспериментами по предсказанию связей, классификации триплетов и извлечению фактов.
5
TransH моделирует каждое отношение как гиперплоскость с операцией трансляции на ней, что позволяет лучше сохранять эти свойства отображения.

Модель встраивания (эмбеддингов) для графа знаний, содержащего сущности и отношения (TransH)

Моделирование отношений как гиперплоскостей с операцией сдвига для сохранения свойств отображений (рефлексивность, один-ко-многим, многие-к-одному, многие-ко-многим) и повышения точности предсказания связей/классификации триплетов при сохранении эффективности

Publication Details
Publication Date
2014-06-21
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Zhen Wang
Jianwen Zhang
Jianlin Feng
Zheng Chen
Jianlin Feng
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%