注意力机制在英汉机器翻译中的应用研究

来源 :新疆农业大学 | 被引量 : 0次 | 上传用户:dzluzd2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,人工智能在图像处理、自然语言处理、文本识别等方面发展迅速,尤其是在机器翻译上,取得了显著的效果。机器翻译是利用计算机算法去实现两种自然语言之间相互转换的过程。在实现机器翻译任务上,目前已经有很多成熟的模型可以应用,包括经典的隐马尔科夫模型、BP神经网络、递归神经网络、Encoder-Decoder模型以及序列到序列模型(Sequence to Sequence Model)。当向机器翻译模型输入序列时,随着序列长度的不断增加,会出现长距离约束即输入输出序列的长度被限制在固定范围内的问题,因此所建模型的能力会受到约束。序列到序列模型可以解决长距离约束问题,但单纯的序列到序列模型无法参考词语前后或其他位置的内容改善翻译质量的行为进行建模。为了弥补该缺陷,学者们提出添加注意力机制(Attention Mechanism)的序列到序列模型。本次实验使用递归神经网络,将数据集应用在添加注意力机制的序列到序列模型中进行探索研究。本文的主要工作如下:(1)本文以从射手网提取的中英文对照语句为数据对象,使用注意力机制下的序列到序列模型进行中文到英文之间的翻译研究。(2)本次研究阐述了机器翻译及部分模型的研究现状,简述了深度学习框架。详细分析了BP神经网络、Encoder-Decoder模型、基于神经网络的机器翻译及注意力机制的运算过程、原理、优缺点;(3)对使用Py Torch实现的序列到序列模型以及注意力机制进行了研究,通过分析翻译的时间消耗、翻译后的词错率以及模型评价标准值来评价模型;(4)最后,本次实验通过应用Encoder-Decoder模型和机器翻译相关技术完成在注意力机制的应用探究,通过训练数据,该模型在中文英文数据集上取得了一定的效果,得出了部分翻译结果以及注意力机制在语句中的表现。相比只使用机器翻译模型来说,应用了注意力机制的机器翻译模型在中文到英文的翻译上使得BLEU值提高了1.24。
其他文献
现今,粮食安全与人口问题是全世界面临的两大难题,在这双重压力之下,寻找土地有效分配方法、实现土地集约利用、稳中推进社会发展是每一个学者及其实践者共同关注并一直竭力
肽类化合物由于其具有良好的生理活性如抗癌、抗菌、消炎、抗病毒、抗微生物、杀虫和抑制免疫力等正逐渐成为开发新型药物先导化合物的重要来源。从海洋藻青菌中提取的链肽五
斯坦利·卡维尔将莎士比亚悲剧作为处理哲学怀疑论问题的场域,试图揭示怀疑论的基本形式、怀疑论产生的原因。卡维尔试图以此为范式,从文学哲学维度对怀疑论进行批评。现有关于卡维尔对莎士比亚悲剧批评的研究或主要集中于哲学领域,探讨卡维尔对怀疑论相关问题的独特理解;或集中在文学领域,分析卡维尔莎士比亚批评中涉及到的相关概念。但莎士比亚悲剧与怀疑论之间的联系尚未得到深入研究。因此本文以卡维尔的日常语言思想为理论
离子对于环境以及生命体的生长、繁衍有着不可忽视的影响。适量的离子是有益的,一旦过量就会引起环境污染、生命体疾病等重大危害。因此对离子的检测是环境科学和生命科学的研究重点。目前离子检测的方法存在合成方法复杂、成本高昂、稳定性差等缺陷。离子探针具有灵敏度高、选择性好、响应速度快等特点,被广泛应用。因此,设计合成出具有良好选择性、高灵敏度、检测便捷的离子探针,对离子检测有着十分重要的意义。此外,有机多孔
新疆地区煤炭资源储备丰富。了解新疆煤中有机质大分子组成结构特征和定向转化机理对于实现新疆煤的高效利用具有十分重要的意义。开发高活性和高稳定性的催化剂是实现煤的高
苹果梨(Pyrus bretschneideri Rehd.’Pingguoli’)是少数能着红色的大果品种。以套袋苹果梨为试材,探究其解袋后花色苷组分变化、内源激素变化和Ca2+/CaM系统变化,结果如下:
随着社会的不断发展,互联网已经成为人们日常生活和事务中不可缺少的重要工具之一。网络信息时代的到来,使全球社会发生质的飞跃。网民,作为网络的使用主体,开始集结成一股重
自我国2005年实行股权分置改革以来,上市公司股权结构逐渐走向分散化,股权分散的公司数量大幅增长。根据Wind咨讯的统计数据,2019年第一大股东持股比例小于30%(即股权相对分散)的公司有1092家,占总体46.8%,企业结构悄然改变。公司股权分散化的初衷是试图解决股权高度集中所带来的大股东利益侵占问题,但在股权相对分散的公司中,分散的小股东缺乏参与公司治理的动力,管理层(内部人)为实现自身利益
为了探明南方海相碳酸盐岩的分布范围及储量,需要进行大量现场勘察工作。地震勘探是石油勘探中一种最常见和最重要的方法,在对海相碳酸盐岩地区进行地震勘探时,从钻孔装药、
随着物质生活水平的不断提高,人们的精神文化需求也日益增强。我国社会现阶段主要矛盾已经转化为人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾。近些年,伴随着