基于深度学习的作诗机器人的研究与实现

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:owg
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
中国古诗是中华文化中的一份瑰宝。近年来中文七言绝句诗生成任务逐渐成为NLP领域一个重要的研究课题。当前绝句诗生成领域仍存在以下四个问题:缺少使用基于Transformer的模型解决该生成问题的尝试;可控绝句诗生成算法的控制准确性和灵活性不佳;几乎没有藏头诗生成相关的研究;缺少在嵌入式开发板上对深度学习压缩、部署并实现对话机器人的研究。为了解决上述三个算法问题和一个工程问题,本文所作的工作如下:第一,针对普通绝句诗生成任务提出并实现TransPoetc算法。在BART模型的基础上,引入一个高斯分布建模先验分布,提升了生成多样性。与基线模型的对比实验以及人工评测表明,TransPoetc具有和业界最好模型相当的生成质量,且生成的多样性更好。这是该领域中,首次尝试预训练模型与CVAE结构相结合来做诗句生成。第二,针对情感可控绝句诗生成任务提出并实现sentEnhancedPoet和multiVAEPoet两个算法。从两个角度有效解决了绝句诗生成情感控制难的问题。人工评测的结果表明,两种算法分别在整诗粒度和句粒度的情感可控度上高出基线模型3.4和4.6个百分点。同时这是该领域中,首次使用多VAE结构解决可控生成问题。第三,针对藏头诗生成任务提出并实现了 headHiderPoet算法。在CVAE结构上,通过引入一个对抗网络,显著提升了生成诗和藏头词的语义一致性。消融实验表明改进后模型生成结果的连贯度和表意度均有相当的提升。这是该领域中,首次用对抗训练的方式解决藏头诗生成问题。第四,将以上所有算法在NVIDIA Jetson Nano开发板上实现全部功能。通过编译Kaldi离线语音识别框架和语音合成工具实现了离线语音识别,通过TensorRT模型转化实现了模型压缩,期间为torch2trt官方贡献了 GRU算子,最终在嵌入式开发板上完整实现了支持多模态交互的作诗机器人。系统测试结果表明,机器人完整实现了多模态交互作诗的功能,且资源消耗和算法推理耗时均控制在了可接受的范围里。
其他文献
近些年来,得益于人工智能的快速发展,对话聊天系统的构建取得了巨大的突破。现有构建对话聊天系统的方法大致可以分为两类:基于生成的方法和基于检索的方法。基于生成的方法可以在给定的会话环境下生成高度一致的新响应;而基于检索的方法当给定某些会话上下文时试图在预先构造好的对话语料库中找到最相关的上下文-响应对。为提高检索式对话聊天系统响应的准确率,本文先对现有的序列建模方法进行改进,然后提出层级残差匹配网络
随着软件规模不断扩大,软件中模块的耦合程度不断加深,软件中一些微小的改动实际上会产生很大的影响。影响域分析是评估给定变更产生的多项风险的一种重要的软件测试技术。影响域分析技术在回归测试中发挥重要作用,可以帮助测试人员提高工作效率和质量。尽管关于影响域分析的研究在过去的几十年间有了长足的发展,但是这些方法基本都是分析受变更点影响的函数,而很少有研究分析语句级别的影响域。另外,C语言中存在一些较为复杂
量子秘密共享(QSS)是量子密码学中的一个重要应用,它利用了量子力学中的不可克隆定理与测不准原理等基本原理,将秘密(或密钥)信息编码在量子态上,以保证秘密共享的无条件安全性。连续变量量子秘密共享(CV-QSS)是QSS的主要研究方向之一。随着对CV-QSS研究的不断推进,其实用性也成为了研究的重点。由于实际生产系统与理想的实验室环境之间存在差异,因此如何提升CV-QSS系统的实际安全性也成为了研究