基于图结构信息的知识表示学习方法研究

论文摘要

知识库以三元组构成的网络形式存储现实世界的事实表达,是诸多下游人工智能应用(智能搜索、智能问答、个性化推荐等)的基石。随着知识库规模的不断扩张,基于网络的符号表示在计算知识库的语义和知识推理的过程中面临计算复杂度高、可扩展性差等问题。知识表示学习被提出来解决这些问题,并受到了学术界和工业界的广泛关注。它旨在将实体和关系映射为低维稠密向量,从而可以完善地保留知识库内部的结构,并在低维空间中高效地计算知识库的语义和完成知识推理的操作。现有的知识表示学习方法主要在拟合知识图谱中单个三元组内部的交互模式,忽略了图结构信息。图结构信息能够挖掘出知识库更丰富的交互模式,更深入且全面地刻画知识库中实体和关系的语义。因此,研究融合图结构信息的知识表示方法具有重要的现实意义。本文从不同的图结构信息入手并进行了系统性的研究,探索了融合各种图结构信息的知识表示学习方法。本文研究的主要内容可概括如下:·提出了一种基于相邻节点信息的知识表示学习算法。针对相邻节点信息,我们探究利用语言模型的思路,来对实体与其相邻节点之间的共性关系进行建模,从而抽取相邻节点信息中蕴含的结构等价性。最后,我们设计了一个联合知识表示学习模块来融合三元组本身内部具有的交互信息和实体的相邻节点信息。·提出了一种基于多步关系路径信息的知识表示学习算法。为了利用实体对之间的多步关系路径来提升实体对之间的直接关系的表示性能,我们通过改良长短期记忆网络来利用关系路径上实体和关系的信息对直接关系进行语义建模。针对实体对间的多条多步关系路径,我们引入了一种缓和的注意力机制来学习多条多步关系路径对应的语义关系与直接关系的一致性程度。此外,为了缓解知识图谱的稀疏性问题,我们抽取了大量的文本关系来扩充知识库关系集,并构建了一个更完整的知识图谱数据集。·提出了一种基于三元组上下文信息的知识表示学习算法。为了更全面地对三元组的图结构语义进行建模,我们将实体的相邻节点信息和实体对之间的多步关系路径信息定义为三元组上下文信息。考虑到三元组上下文信息中不同语义的独特性,我们设计相应的知识表示学习策略来学习三元组的图结构语义表示。同时,我们提出了一个统一的框架来融合三元组本身内部的交互信息和三元组上下文信息。·提出了一种基于图节点上下文信息的知识表示学习算法。为了更好的刻画实体的图结构语义,我们不仅考虑实体的相邻节点信息,同时也将实体的相邻边信息纳入考虑之中。这两种信息的结合就是图节点上下文信息。针对图节点上下文信息,我们设计了创新性的图卷积神经网络,来构建实体的图结构语义表示。此外,我们针对实体分类和知识图谱补全任务,设计了相应的解码器。我们在知识图谱补全、三元组分类、实体类型分类等知识表示学习经典任务上,对提出的模型进行了性能测试。实验结果表明,基于图结构信息的知识表示学习方法较其他经典的基线模型效果增长显著,也说明了图结构信息中蕴含的丰富语义能够更好地建立知识表示。此外,基于图卷积神经网络的知识表示学习模型较其他基准模型在少样本知识图谱补全任务上取得了更好地实验效果,说明图卷积神经网络能很好地对图结构语义建模。

论文目录

摘要

Abstract

第1章绪论

1.1 背景与意义

1.2 本文研究内容

1.3 本文组织结构

第2章相关研究工作综述

2.1 知识表示学习的研究进展

2.1.1 基于单个三元组的知识表示学习

2.1.2 融合多源信息的知识表示学习

2.2 图表示学习的研究进展

2.2.1 基于随机游走的图表示学习

2.2.2 基于图卷积神经网络的图表示学习

2.3 知识表示学习面临的挑战

2.3.1 知识图谱内部信息和外部信息

2.3.2 知识驱动应用的复杂性

2.4 本章小结

第3章基于相邻节点信息的知识表示学习

3.1 引言

3.2 基于相邻节点信息的知识表示学习

3.2.1 符号体系

3.2.2 算法总体描述

3.2.3 相邻节点信息的特征学习

3.2.4 联合知识表示学习

3.2.5 模型训练

3.3 实验分析

3.3.1 数据集

3.3.2 知识图谱补全

3.3.3 三元组分类

3.4 本章小结

第4章基于多步路径信息的知识表示学习

4.1 引言

4.2 基于多步路径信息的知识表示学习

4.2.1 符号体系

4.2.2 算法总体描述

4.2.3 关系路径的获取

4.2.4 单条关系路径的知识表示学习

4.2.5 基于多条关系路径的注意力机制

4.2.6 联合知识表示学习

4.2.7 模型训练

4.3 实验分析

4.3.1 数据集

4.3.2 实验设置

4.3.3 知识图谱补全

4.3.4 三元组分类

4.4 本章小结

第5章基于三元组上下文信息的知识表示学习

5.1 引言

5.2 基于三元组上下文信息的知识表示学习

5.2.1 符号体系

5.2.2 算法总体描述

5.2.3 相邻节点信息的知识表示学习

5.2.4 关系路径信息的知识表示学习

5.2.5 联合知识表示学习

5.2.6 模型训练

5.3 实验分析

5.3.1 数据集

5.3.2 实验设置

5.3.3 不同图结构信息的比较

5.3.4 性能评价

5.4 本章小结

第6章基于图节点上下文信息的知识表示学习

6.1 引言

6.2 基于图节点上下文信息的知识表示学习

6.2.1 符号体系

6.2.2 算法总体描述

6.2.3 图节点上下文信息的编码器

6.2.4 解码器

6.3 实体分类实验

6.3.1 数据集

6.3.2 实验设置

6.3.3 参数分析

6.3.4 卷积核的影响

6.3.5 与最新模型的比较

6.4 知识图谱补全实验

6.4.1 数据集

6.4.2 实验设置

6.4.3 常规知识图谱补全任务的性能评价

6.4.4 单样本知识图谱补全任务的性能评价

6.5 本章小结

第7章总结与展望

7.1 本文工作总结

7.2 未来工作展望

参考文献

攻读博士学位期间的主要研究成果

致谢

文章来源

类型: 博士论文

作者: 聂斌玲

导师: 孙守迁

关键词: 知识表示学习,图结构信息,图卷积神经网络,知识图谱补全,三元组分类,实体分类

来源: 浙江大学

年度: 2019

分类: 基础科学,信息科技

专业: 数学,自动化技术

单位: 浙江大学

分类号: TP181;O157.5

DOI: 10.27461/d.cnki.gzjdx.2019.002143

总页数: 110

文件大小: 5891K

下载量: 142

基于图结构信息的知识表示学习方法研究

论文摘要

论文目录

文章来源

相关论文文献

猜你喜欢