基于图注意网络的文本增强知识图谱表示学习

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:canghaiyuemenglong
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
知识图谱表示学习也称知识图谱嵌入,旨在挖掘知识图谱中涵盖的有效信息并转变为向量表示,从而更方便地被应用于机器学习和深度学习模型之中,并应用于检索、推荐、推理等目的。提高知识图谱表示学习模型的表达能力主要从两方面入手。1)知识图谱表示学习模型的改进。在传统知识图谱表示模型的基础上结合卷积神经网络模型、注意力机制以及目前备受关注的图神经网络等模型的优势针对模型架构设计进行优化。2)扩充知识库。由于只通过知识图谱的结构数据无法对图谱信息进行完整建模,因而试图通过一些外部的知识库信息来扩充知识图谱,并设计相应的知识增强模型来充分挖掘知识图谱的内容信息,从而达到提升性能的目的。本文主要研究内容包括:1)针对上述两个方面对知识图谱表示学习算法进行优化,提出了基于图注意网络的文本增强知识图谱表示学习模型TGAT,并基于WN18RR和FB15K-237数据集验证了TGAT模型在链接预测任务上的性能表现;2)为了验证算法在真实场景中的表现,我们结合保险行业的核保任务场景,构建了保险医疗知识图谱数据集MI225,验证了TGAT模型在MI225数据集上的性能表现;3)为了研究知识表示模型和深度学习模型的有机结合,我们提出了基于知识表示的深度学习模型框架,并在此基础上针对核保任务提出了基于知识表示的深度注意力核保模型KBDAN。实验表明,TGAT模型在MR、MRR以及Hits@N多个指标上较前人模型提升明显;同时,加入文本增强知识向量表示之后的核保模型的分类预测性能较其他经典知识表示模型有显著提升;另外,新提出的基于知识表示的深度核保模型KBDAN在多分类任务上较多种经典机器学习框架以及深度学习模型有性能优势。本文系统地实现了对知识图谱的结构信息以及内容信息的知识提取,通过将预训练知识表示模型应用于深度学习任务中,提升了下游任务中的分类以及推荐效果。
其他文献
"乡土地理"是做好立德树人工作、践行实践育人理念的有形载体。开封市历史悠久、古迹众多、文化灿烂、环境优越、物产丰富、交通便利、经济发展迅速、城市面貌日新月异……为乡
随着装备论证数据工程建设的推进,各类型装备及其论证相关综合性数据不断丰富完善,数据规模不断增长。大数据时代的背景下,数据挖掘、辅助决策系统等大数据应用分析技术不断
物理学科关注自然,关注社会以及生活,初中物理内容大多来源于生活,结合生活进行初中物理教学,不仅体现了物理学科的特点,也顺应了时代发展的要求。与生活相结合的教学方式能
目的:观察原发性胆汁性胆管炎(曾称为原发性胆汁肝硬化)(Primary Biliary Cholangitis,PBC)患者肠道菌群的改变,及熊去氧胆酸治疗后肠道菌群是否改变,为探索分析肠道菌群在PBC发病中的作用机制提供临床数据。方法:以最新的PBC指南作为PBC的诊治标准,收集2018年11月至2019年12月间就诊于石河子大学第一附属医院的明确诊断为PBC的患者,并采用单纯随机抽样的方法,抽
低碳高强度Q690D钢适用于大型工程的结构件。对含碳量为0.14%~0.16%(质量分数)、厚度为100 mm的Q690D钢板进行了920℃水淬和分别于560℃、580℃及620℃回火处理。分别检测了
为了适应时代背景,全国基础教育也在不断做出调整,一线教师和研究者们为了实现全方位的教学改革,针对构建高效课堂提出了多种教学模式,其中导学案模式深受学校的青睐。在教学
起源于2019年12月的新冠肺炎疫情,由于前期防范措施的薄弱以及病毒传播的途径过于隐蔽,导致此次疫情对于我国宏观经济和银行业的发展带来了深远的影响。相比较于2003年的SARS
生态翻译学作为一种新兴的本土化翻译理论,近十年来已经引起了众多学者的关注,并广泛应用于实用性翻译。其核心观点如“译者主体性”、“翻译适应选择论”以及“三维转换”等为翻译研究提供了新的研究视角。随着数字信息时代的快速发展,大多数著名旅游景点都逐渐建立了自己的旅游网站,越来越方便了游客的出行。然而,据调查研究发现,部分旅游网站还存在一些问题,其网站文本质量参差不齐,大大阻碍了旅游网站功能的发挥,对旅游