基于注意力机制和多任务对抗学习的文本立场分析

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:kang573
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着社交媒体平台的快速发展,网络用户得以随时浏览新闻报道,并发表和交流自己的观点与情感。因此,文本情感分析吸引了世界范围内的研究关注。但文本情感分析通常只对文本做出正负面极性分析,缺乏对文本针对特定主题的立场倾向分析能力,而且这恰恰是大量实际应用中用户真正关注的内容。因此,社交媒体文本立场分析研究具有巨大的科学价值与商业价值。文本立场分析目的是分析并判断文本包含的针对特定话题所持有的立场,即支持、反对以及中立。现有的研究主要包括基于机器学习的方法和基于深度学习的方法。基于机器学习的方法通常依赖于人工特征构造和筛选,但构造特征的过程往往消耗大量的人力;基于深度学习的方法通过端到端的构造过程避免了繁琐的特征工程,但往往缺乏对文本交互过程的深层建模能力。此外,受到数据集规模偏小的影响,单一模型的学习能力往往存在一定的限制。为此,本文研究结合注意力机制和多任务对抗学习的文本立场分析方法。为学习交互文本中立场相关的深层语义表示,本文首先研究基于双向长短时记忆网络的文本立场分析方法。在此基础上,进一步引入了注意力机制和匹配(Match)机制以解决文本之间长度差距过大的问题,并突出关键匹配对立场分析的权重。在Fake News Challenge2017比赛官方数据集的实验结果表明,相对于采用特征工程和集成模型等评测方法,上述方法取得与评测最佳系统相近的F1Average同时,Score值提升了0.2。针对文本立场分析任务数据集规模较小导致单一模型学习能力存在限制的问题,本文研究了基于多任务对抗学习的立场分析方法。该方法首先通过多任务学习机制,将立场分析作为主任务,阅读理解任务作为辅助任务构造多任务学习框架。针对多任务学习参数共享过程中存在噪音的问题,引入对抗训练机制,降低特征空间之间的交叉程度,以提高分类性能。实验结果表明,通过引入多任务对抗学习机制,F1Average提升0.05,Score值进一步提升0.7,达到了目前已知的最好性能,显示了本文提出的结合注意力机制和多任务对抗学习的文本立场分析方法的有效性。
其他文献
反垄断法作为市场经济国家的基本经济立法,在西方资本主义国家具有不可替代的重要作用,在西方被称为“自由企业大宪章”,而在长期缺乏反垄断意识的亚洲国家里,日本在1947年制定的反垄断法成为亚洲第一部制定并实施的与竞争相关的法律,经过几十年的发展,从最初的全盘照搬到后来的根据国情不断修改完善,其中不断借鉴西方国家先进的立法经验,其对于反垄断的认识也经历了一个波折起伏的过程,并最终将其确立为经济法核心,其
目的探讨高频超声在诊断臂丛神经卡压的价值。方法用高频超声研究8例臂丛主要分支声像图改变特点,术前、术后自身对照比较。结果正常神经束长轴显示为平行线状会回声,短轴呈
本文通过两种课堂教学模式的对比研究,为教师转变对“课堂主体”、“概念教学”、“实验作用”认识从而提高课堂教学的有效性提供了可能的路径。 This article compares two
针对利用交汇井液位计算出流量的需求,通过分析交汇井液位及其进出流量之间的关系,提出单井法计算模型;通过分析相邻两座排水交汇井液位和二者之间管道流量之间的关系,提出双
反应堆压力容器(Reactor Pressure Vessel,RPV)作为核电站不可更换的关键性设备,其寿命通常是核电站寿期的决定性因素之一。RPV钢在长时间的中子辐照、高温高压环境下会发生
<正>一、基于建筑模型的实训项目开发意义1.有利于形成系统的项目化教学体系基于建筑模型的项目体系是以岗位技能为标准,开发实训项目;以工作过程为导向,制订实训内容,将现有
进入新世纪后,随着人们生活水平的提高,对下肢运动功能障碍患者的关注越来越重视,下肢康复机器人的研究与应用也得到了快速的发展。绳索并联机构具有结构简单,质量小,空间利
与传统购物方式相比,网上购物可以让我们的消费渠道得到更大的开阔,消费时一些信息的获得也比以往的快捷方便,成本自然也会随之降低。我国的网上购物市场取得飞速的发展。然
地下水系统石油烃与氯代烃污染问题俨然成为一个全球性问题。建国后,我国工业得到快速发展,产生的大量污染物通过各种途径进入地下水系统。石油烃与氯代烃污染物对地下水的污