【摘 要】
:
知识图谱能提供可以被计算机理解的结构化信息,为人工智能的发展打下坚实的基础。虽然目前已构建许多规模较大的知识图谱,但由于互联网数据量过于庞大,以及数据产生速度之快,导致知识图谱所存储的知识信息是远远不完备的。因此,为了提高知识图谱的完整度,知识图谱补全工作势在必行。近年来有研究者提出知识表示学习,它可以更有效地利用到各种补全信息,极大地提高补全工作的效率,且性能表现优异。但是,目前的知识表示模型也
论文部分内容阅读
知识图谱能提供可以被计算机理解的结构化信息,为人工智能的发展打下坚实的基础。虽然目前已构建许多规模较大的知识图谱,但由于互联网数据量过于庞大,以及数据产生速度之快,导致知识图谱所存储的知识信息是远远不完备的。因此,为了提高知识图谱的完整度,知识图谱补全工作势在必行。近年来有研究者提出知识表示学习,它可以更有效地利用到各种补全信息,极大地提高补全工作的效率,且性能表现优异。但是,目前的知识表示模型也存在一些问题,主要表现在:(1)现有的知识表示模型大多只依靠三元组内部的结构化信息,学习得到的知识语义性较差,在大规模知识图谱上的区分度较低,不能更有效地解决知识图谱普遍存在的数据稀疏性问题。(2)由于负例三元组的质量对模型的训练效果尤为重要,传统的随机负采样方法生成的负例三元组质量相对较差,容易产生零损失问题,无法为模型训练提供更有意义的指导,从而影响知识图谱补全的工作效率。鉴于上述问题,本文进行了以下工作:为提高知识表示的语义性,引入了实体的描述信息和图像信息,提出融合多种外源信息的知识表示模型DIRL。此模型通过文本表征模型BERT学习知识图谱中的实体描述信息,通过CNN编码器学习知识图谱中的实体图像信息,最后将这两种外源信息与知识图谱自身的结构信息基于翻译模型Trans R进行融合。针对参与模型训练的负例三元组普遍存在质量较差的问题,提出一种基于GAN负采样的知识图谱补全模型GANRL,该模型包括生成网络和判别网络。选用变分自编码器VAE作为生成网络,为判别网络生成高质量的负例三元组;判别网络可以选取多种潜层距离模型,利用生成网络生成的高质量负例三元组学习知识表示,并为生成网络计算出相应的奖励分数,促使生成网络生成更高质量的负例三元组。在对抗性训练环境中,生成网络和判别网络会朝着各自的目标交替训练,从而提高训练效率,增强其知识表示能力。实验结果表示,融合实体描述与图像特征的知识表示学习DIRL和基于GAN负采样的知识图谱补全模型GANRL,均比基准模型在链接预测和三元组分类任务上的结果优异。说明实体的外源信息可以用来加强知识表示学习能力,以更好的进行知识图谱补全工作。基于GAN的知识图谱补全模型则可以比传统随机抽样的方式生成更多高质量的负例三元组,解决零损失问题,从而增强知识表示学习能力。
其他文献
随着移动互联和大数据的飞速发展,互联网即将从Web2.0时代迈入Web3.0时代,这意味着互联网每日产生的数据量将不断暴涨,“信息过载”问题愈发严重,用户如何在海量数据中得到想要的信息成为当下亟待解决的难题。推荐技术的发展与普及很大程度上缓解了该难题,通过分析用户历史数据获取其喜好从而进行推荐。籍此,该技术迅速在学术界和工业界盛行并应用于诸多领域。目前,越来越多研究者致力于研发各种优良的推荐算法,
后疫情时代背景下,现代信息技术被广泛应用到各行各业,互联网经济、数字经济和平台经济快速发展,新技术、新业态催生出多种新型就业形态并逐渐繁荣。灵活就业作为新的非标准就业模式,在后疫情时代逐步成为高校毕业生就业的一种重要形式。越来越多的高校毕业生主动选择新型的灵活就业形式投身人力资源市场,加强高校毕业生新业态灵活就业特点和问题的研究,及时出台更有针对性、实效性的灵活就业政策意义重大。
文本分类是自然语言处理领域里的一个重要任务,被广泛用于热点挖掘、舆情、分析、产品分析、电影推荐、金融风险分析、欺诈识别等等。随着Web 2.0时代的来临,面对网上越来越多的文本信息,传统的基于统计学的方法已经无法满足需要。深度学习的出现,使得文本分类任务有了新的处理方法,也使得深层次的神经网络的训练成为了可能。然而,深层网络带来的梯度消失问题会导致网络难以训练。因此,如何训练深层神经网络是当下的研
随着5G、WiFi等网络技术的发展和智能移动设备的普及,基于位置的社交网络(LBSN,Location-based Social Network)已成为人们关注的焦点。兴趣点(Point-of-Interest,POI)推荐作为LBSN领域的一个研究热点,它通过对海量的签到数据进行分析和挖掘,为用户提供个性化的兴趣点推荐。这不仅让POI服务商更加充分理解目标受众,而且为用户自主出行提供更为便利的信
随着互联网的兴起,越来越多的学习者选择通过在线教育平台进行学习。不同于传统的课堂教育由教师主导学习者的学习进程与学习活动,在线教育平台提倡因材施教,即根据学习者的知识水平为学习者提供个性化的教学内容与学习路线,然而学习者的知识掌握程度随学习进度不断变化,因此实时追踪学习者知识掌握程度变化尤为重要。知识追踪任务旨在根据学习者历史学习行为实时追踪学习者知识水平变化,并且预测学习者在未来学习表现。知识追
随着互联网的不断发展,越来越多的网民将社交媒体作为获取信息的主要途径,人们在网络空间中快速、自由地发布信息、社交互动、情感交流。微博作为网络信息传播最具代表性的应用之一,越来越多的网民通过微博来发布、获取和传播信息。微博上蕴含着个人观点的实时评论具有潜在的舆论导向,由此形成网络舆情。然而,网络舆情事件往往是突发的、难以预知的。近年来,对于舆情事件的相关研究层出不穷,现有算法无法高效对网民情感及舆情
直觉模糊知识测度在不确定性问题中有着重要作用,由于直觉模糊集的结构特性,知识测度能够有效弥补直觉模糊熵的不足,更加全面地反映不确定性问题研究过程中产生的模糊性与犹豫性。本文以提高知识测度对复杂问题的解决能力为目标,提出改进HammingHausdorff距离,与理想解法(technique for order preference by similarity to ideal solution,T
随着信息传输及数据存储技术的深度发展,时间序列相关的应用领域不断拓宽,金融、医疗、气象、销售等诸多领域时刻产生着各种类型的时间序列数据,数据规模大且无标签。从这些海量数据里挖掘出具有重大潜在价值的信息,在推动信息技术融合应用与信息产业高速增长、促进数字经济健康有序发展等方面具有广泛而深远的意义。聚类作为一种无监督学习方法,比逻辑回归、决策树、支持向量机等监督学习方法更适合对无标签数据的挖掘分析,因
目前很多依赖递归神经网络的对话系统,基本上都是需要大量密集并且标注完成的数据来进行模型的训练。混合编码网络模型(HCN)是一种面向任务通信的对话系统。HCN让开发者可以通过软件和模板操作来传达自己所学领域的知识,与现有的端到端方法相比,HCN可以在一定范围内提高对话系统训练的实用性和训练效率,但也存在一定的局限性,如由于特定领域的小众与独特性,不具有大量的训练样本,传统的混合编码网络模型在小样本数