【摘 要】
:
随着互联网和人工智能的迅速发展,图像描述任务在人机交互和儿童教育等领域越来越受到重视。图像描述是通过结合计算机视觉中的特征提取与自然语言处理中的序列输出,将图像内容利用计算机生成自然语言描述,从而完成从视觉到语言的形态转换。不同于目标检测、图像识别等图像理解任务,图像描述不仅要识别出图像中包含的物体对象,还需要准确识别出图像中的背景、对象之间的关系等信息。近年来,研究人员对基于深度学习的图像描述方
论文部分内容阅读
随着互联网和人工智能的迅速发展,图像描述任务在人机交互和儿童教育等领域越来越受到重视。图像描述是通过结合计算机视觉中的特征提取与自然语言处理中的序列输出,将图像内容利用计算机生成自然语言描述,从而完成从视觉到语言的形态转换。不同于目标检测、图像识别等图像理解任务,图像描述不仅要识别出图像中包含的物体对象,还需要准确识别出图像中的背景、对象之间的关系等信息。近年来,研究人员对基于深度学习的图像描述方法进行了大量的研究,虽然取得了突破性进展,但是如何生成更丰富的图像描述语句是值得研究的一个问题。首先,本文通过对最近几年国内外图像描述方法进行研究,发现在图像特征的提取阶段中,更多的是提取全局图像特征信息,这样导致提取的图像信息尺度单一,从而使得图像描述生成内容不够全面。基于该问题,本文提出基于区域网络的图像高层语义提取方法,首先利用VGGNet-16网络提取全局图像特征,然后通过区域候选网络提取局部特征信息,其次利用双线性插值和采样网格对区域进行优化和选取,最后融合全局和局部特征信息的图像高层语义指导解码器生成图像描述,从而使得图像描述模型既获取全局特征信息,又可以利用局部信息使得图像描述更加全面。然后,本文对Attention机制在解码器中的应用进行了研究。由于传统的注意力机制比较单一,解码器直接把从编码器中获取的有用信息和冗余信息作为信息输入,然而冗余信息的输入会对输出结果造成误导,从而会导致解码器生成不准确的图像描述。本文提出基于Attention机制的图像描述方法,通过改进空间注意力机制来加强注意结果和查询之间的相关性,视觉注意力机制可以让模型自动关注图像视觉信号和语言模型,本文在解码器中通过应用改进的空间注意力和视觉注意力机制,从而融合长短期记忆网络中的隐藏层信息和图像上下文信息来获取最终图像描述语句。最后,本文模型通过在MS COCO数据集和Flickr 30K数据集进行训练和测试。通过与前人的研究方法相比,本文提出的基于高层语义提取与Attention机制的图像描述方法,在METEOR和CIDEr评估指标上优于大部分图像描述的方法,在BLEU评价指标上也有不同程度的提升。因此有效验证了本文模型生成的图像描述语句内容更加准确,语言表达更具有逻辑性。
其他文献
文本分类是自然语言处理领域里的一个重要任务,被广泛用于热点挖掘、舆情、分析、产品分析、电影推荐、金融风险分析、欺诈识别等等。随着Web 2.0时代的来临,面对网上越来越多的文本信息,传统的基于统计学的方法已经无法满足需要。深度学习的出现,使得文本分类任务有了新的处理方法,也使得深层次的神经网络的训练成为了可能。然而,深层网络带来的梯度消失问题会导致网络难以训练。因此,如何训练深层神经网络是当下的研
随着5G、WiFi等网络技术的发展和智能移动设备的普及,基于位置的社交网络(LBSN,Location-based Social Network)已成为人们关注的焦点。兴趣点(Point-of-Interest,POI)推荐作为LBSN领域的一个研究热点,它通过对海量的签到数据进行分析和挖掘,为用户提供个性化的兴趣点推荐。这不仅让POI服务商更加充分理解目标受众,而且为用户自主出行提供更为便利的信
随着互联网的兴起,越来越多的学习者选择通过在线教育平台进行学习。不同于传统的课堂教育由教师主导学习者的学习进程与学习活动,在线教育平台提倡因材施教,即根据学习者的知识水平为学习者提供个性化的教学内容与学习路线,然而学习者的知识掌握程度随学习进度不断变化,因此实时追踪学习者知识掌握程度变化尤为重要。知识追踪任务旨在根据学习者历史学习行为实时追踪学习者知识水平变化,并且预测学习者在未来学习表现。知识追
随着互联网的不断发展,越来越多的网民将社交媒体作为获取信息的主要途径,人们在网络空间中快速、自由地发布信息、社交互动、情感交流。微博作为网络信息传播最具代表性的应用之一,越来越多的网民通过微博来发布、获取和传播信息。微博上蕴含着个人观点的实时评论具有潜在的舆论导向,由此形成网络舆情。然而,网络舆情事件往往是突发的、难以预知的。近年来,对于舆情事件的相关研究层出不穷,现有算法无法高效对网民情感及舆情
直觉模糊知识测度在不确定性问题中有着重要作用,由于直觉模糊集的结构特性,知识测度能够有效弥补直觉模糊熵的不足,更加全面地反映不确定性问题研究过程中产生的模糊性与犹豫性。本文以提高知识测度对复杂问题的解决能力为目标,提出改进HammingHausdorff距离,与理想解法(technique for order preference by similarity to ideal solution,T
随着信息传输及数据存储技术的深度发展,时间序列相关的应用领域不断拓宽,金融、医疗、气象、销售等诸多领域时刻产生着各种类型的时间序列数据,数据规模大且无标签。从这些海量数据里挖掘出具有重大潜在价值的信息,在推动信息技术融合应用与信息产业高速增长、促进数字经济健康有序发展等方面具有广泛而深远的意义。聚类作为一种无监督学习方法,比逻辑回归、决策树、支持向量机等监督学习方法更适合对无标签数据的挖掘分析,因
目前很多依赖递归神经网络的对话系统,基本上都是需要大量密集并且标注完成的数据来进行模型的训练。混合编码网络模型(HCN)是一种面向任务通信的对话系统。HCN让开发者可以通过软件和模板操作来传达自己所学领域的知识,与现有的端到端方法相比,HCN可以在一定范围内提高对话系统训练的实用性和训练效率,但也存在一定的局限性,如由于特定领域的小众与独特性,不具有大量的训练样本,传统的混合编码网络模型在小样本数
知识图谱能提供可以被计算机理解的结构化信息,为人工智能的发展打下坚实的基础。虽然目前已构建许多规模较大的知识图谱,但由于互联网数据量过于庞大,以及数据产生速度之快,导致知识图谱所存储的知识信息是远远不完备的。因此,为了提高知识图谱的完整度,知识图谱补全工作势在必行。近年来有研究者提出知识表示学习,它可以更有效地利用到各种补全信息,极大地提高补全工作的效率,且性能表现优异。但是,目前的知识表示模型也
随着互联网时代的到来,人工智能行业成为了国家经济和科技的引领行业,其中通过面部情绪的人工智能识别已经成为当前社会的一个研究热点。根据现阶段的研究发现,用户在相互交流的过程中,绝大多数信息都是借助表情这个媒介进行传达的,用户在进行表述的同时,面部表情也会发生相应的变化,因此,可以利用用户的面部表情变化进而来识别用户的情感变化趋势。情绪可以用肉眼看不见的许多不同形式表示。使用正确的工具,可以检测和识别