基于深度学习的多模态情感分析模型研究

来源 :重庆邮电大学 | 被引量 : 0次 | 上传用户:qx552801
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,网络购物和社交媒体平台不断崛起,网络上充满着大量以图文、视频等形式存在的多模态信息。传统的单模态情感分析方法表达形式单一,无法充分地利用多种模态信息,导致情感分类准确率较低。深度学习技术可以自动挖掘图文、视频中的情感状态,能够有效地将多种模态信息相结合。因此本文基于深度学习技术,对多模态情感分析模型展开了深入的研究,主要研究内容如下:1.针对图文方面级多模态情感分析中简单平均化方面单词导致语义混乱,以及未考虑文本和图像之间的交互信息问题,提出一种基于动态记忆网络-门控多模单元融合(DMN-GMUF)模型。首先,定义权重池化方法对方面单词进行处理,得到处理后的方面单词表示;其次,依据动态记忆网络的存储和处理序列特性,分别通过文本动态记忆网络和图像动态记忆网络获取文本和图像中与方面单词强相关的信息;然后,引入门控多模单元将文本与图像之间的互补信息相结合;最后,将多模态融合信息输入到softmax层进行方面级多模态情感分类。实验结果表明,DMN-GMUF模型在准确率和宏平均F1值上均有所提升,有效地提高了图文方面级多模态的情感分类性能。2.针对视频多模态情感分析中,未考虑跨模态间的交互作用以及各模态贡献程度对最后情感分类结果的影响问题,提出一种基于注意力机制的特征融合-双向门控循环单元(AMF-BiGRU)多模态情感分析模型。首先,利用双向门控循环单元来考虑各模态中话语间的相互依赖关系,得到各模态的内部信息;其次,通过跨模态注意力交互网络层,将模态内部信息与模态之间的交互作用相结合;然后,引入注意力机制确定各模态的注意力权重,并将各模态特征有效融合;最后,通过全连接层和softmax层获取情感分类结果。实验结果表明,AMF-BiGRU模型能够有效提高视频多模态的情感分类性能。
其他文献
振动所产生的影响涉及到了建筑安全、精密仪器使用,通常在振动波的传播介质中设置阻断屏障来降低其对以上方面的影响。排桩隔振受土质影响较空沟来说较小。本文以天然砂性土质的地基上进行测试,通过二维平面上相对加速度值的变化情况来分析桩周围土体振动变化以及排桩所能抑制的桩后土体范围。在本文的试验条件下得出的结论如下:一、对于排桩土体振动分析试验,本文对桩前、桩间、以及桩后的振动变化情况进行了系统的分析,结论如
宏观超分子组装是超分子科学的新兴研究方向,经过近十年的快速发展,已经成为构筑体相超分子材料的新方法,它是指在特征尺寸为十微米以上的构筑基元表面,通过表面化学修饰引入超分子识别基团,再利用界面组装构筑超分子材料的过程。在宏观超分子组装的前期研究中,人们发现宏观构筑基元材料良好的形变能力是实现其组装的关键。因此,大量相关报道主要采用模量较低的材料体系,例如水凝胶,如何实现刚性材料的组装是该研究领域的一
基于金属氧化物的电阻式气体传感器随着近年来技术的革新,被广泛应用于控制NO2,SO2,挥发性有机化合物(VOCs)如三乙胺(TEA)等有毒有害气体的排放等领域中,先前的研究表明,两种或多种金属氧化物形成异质结会大大提高气体传感性能。此外,碳基材料与金属氧化物的结合也是提高气体敏感性能的方法之一,其中,还原氧化石墨烯(rGO)由于其电导率高,可以提供更大的比表面积而被大量运用在气敏传感领域。基于以上
当前,我国已成为全球第二大化妆品消费市场。随着化妆品消费需求的急剧增加,犯罪人为获取巨额利润,大肆生产仿冒品牌化妆品,抑或为达到宣传功效在化妆品中违法添加重金属、激素等禁限用物质,尤其是在电商、海淘代购、网络直播等新业态迅速发展背景之下,此类犯罪手段日益复杂,呈现出链条化、线上线下交织、境内境外交织等新特点。假冒伪劣化妆品的泛滥既破坏了诚信经营的市场秩序,也对消费者健康造成了潜在威胁。本文从犯罪学
我国刑事诉讼中未成年证人出庭率较低,其中未成年被害人、证人出庭的情况更是微乎其微。实务中要么不采纳未成年人证言,要么直接宣读证言笔录来完成质证过程。由于未成年人的生理心理功能尚不健全,不恰当地获取未成年人证言的方式不但会导致证言的准确性下降,更不利于未成年人心理健康的恢复。将未成年人排除于诉讼过程之外,未成年人的证言无法在法庭上得到有效质证。这样做不仅被告人的辩护权利得不到保障,法官的自由心证也无
远距离投掷技能是一项人类独有而重要的运动能力。投掷物的大小和重量直接影响投掷距离。一系列研究发现,善于掷远(>30m)的投手能准确知觉物体的可投掷性:投手能从多个尺寸、重量不同的球中,选择合适自己扔得最远的球。无论是投掷结果还是知觉结果,尺寸大的球,需要比尺寸小的球更重一些,投手才能将球扔得更远,同时该球才被知觉为能扔得更远。物体的可投掷性由物体的大小-重量关系决定。知觉可投掷性可能是一个多通道整
热带气旋是世界上最具破坏性的自然灾害之一,我国东南沿海地区常年遭受台风的袭扰,台风过境对当地人民的生命财产安全造成了极大的损失。其中,台风的破坏性主要体现在对建筑结构的破坏上。由于台风属于突发事件,受环境因素影响较大,在试验中很难准确的模拟,所以,对台风的现场实测是研究台风最有效的方法。本文利用福建省宁德市霞浦县550kV的笠里核电输电塔作为观测基站,利用风速计在离地高度15 m、27 m、53
随着互联网的飞速发展,各种网购平台应运而生,同时也出现了社交网购、自媒体网购等多种新模式,如今,网购已然成为大众生活的常态。然而,在网购发展的同时,也伴随着日益严重的消费者权益遭受侵犯的现象,尤其是消费者的隐私权遭到前所未有的威胁,隐私信息被违法收集、窃取、买卖的案例增多。目前,我国对网购消费者隐私权保护的法律不完善,尚未形成对消费者隐私信息进行有效保护的制度。因此,当前亟需制定一套完备良善的网购
近年来,随着深度学习的发展,卷积神经网络的硬件加速成为当下研究的热点,特别是在边缘端对于实时性要求更高。因此将可重构的神经网络加速器和通用CPU组合构建一个So C的加速方式,既有通用性,又可以针对具体问题进行优化。但对于传统的CPU指令集架构ARM和x86都是不开源的,导致专利授权费昂贵,因此以RISC-Ⅴ为代表的开源指令集架构+加速器的模式并结合全自动化设计的方法,有助于更高效的设计CNN加速
硫是自然界中广泛存在的元素,硫糖苷不仅可以作为糖基供体,也可以作为药物开发中的先导化合物,近年来1-硫糖苷受到了广泛的关注,但立体选择性S-糖基化仍面临着很大的挑战性。对于上述问题,本论文以半乳糖为原料,通过6步反应得到中间体3,4-氧碳酸酯烯糖,选用Pd2(dba)3为催化剂,Xant Phos为配体,DCM为溶剂,35℃条件下选择性合成β-硫糖苷化合物。通过亲核取代、消去、羟基保护等六步反应合