分享

基于动态图注意力聚合多跳邻域的实体对齐

 ChinaAET 2022-12-20 发布于北京

作者:
汪浣沙1,2,黄瑞阳1,2,宋旭晖3,余诗媛3,胡 楠3
作者单位:
1.国家数字交换系统工程技术研究中心,河南 郑州450002; 
2.中国人民解放军战略支援部队信息工程大学,河南 郑州450002;
3.郑州大学 软件学院,河南 郑州450001。
摘要:
实体对齐是实现对不同来源知识库进行融合的重要技术方法,在知识图谱、知识补全领域具有广泛应用。现有基于图注意力的实体对齐模型多使用静态图注意力网络且忽略了实体属性中的语义信息,导致模型存在有限注意、难以拟合、表达能力不足等问题。针对这些问题,开展基于动态图注意力结构建模实体对齐方法研究,首先使用图卷积层建模目标实体的单跳节点表示,其次应用动态图注意力网络获得多跳节点注意力系数并建模,再次利用逐层门控网络聚合图卷积层与动态图注意力层输出的单跳、多跳节点信息,最后拼接通过外部知识预训练自然语言模型提取的实体名称属性嵌入并进行相似度计算。该方法在DBP15K的三类跨语言数据集中都获得了一定的提高,证明了应用动态图注意力网络与融入实体属性语义在提高实体表示能力上的有效性。
引言:

实体对齐任务指利用模型或算法判断多个不同表示的实体是否指代现实世界中的同一对象,随着知识图谱因其结构性表示知识等优势而在各大自然语言处理与计算机视觉领域任务中广泛应用,实体对齐作为知识图谱补全任务的重要组成部分受到越来越多研究者的关注。
现有实体对齐方法主要分为基于转移距离模型与基于图卷积网络模型,即利用转移距离模型或图卷积网络将多源实体表示为低维向量并计算相似性以找到对齐实体对。目前主流的基于图卷积网络的实体对齐模型常使用传统的静态图注意力网络对实体进行特征提取与语义建模,但静态图注意力网络注意力函数存在单调性,即对于任意查询节点i,图注意力网络都倾向给予同一节点j更高的注意力权重,这将会严重影响网络的特征提取能力。而文献[1]所提出的动态图注意力网络中每个查询(Query)对键(Key)的注意系数都有不同的排序,因此具有更强的表示能力。图1展示了静态与动态图注意力网络注意力倾向示意。

文章来源:《电子技术应用》杂志10月刊

    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多