局部感知递归神经网络在语言模型中的应用

来源 :信息技术 | 被引量 : 0次 | 上传用户:wiqjhag
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
数据序列预测被许多人认为是机器学习和人工智能领域中的关键问题,在一系列的单词或字符数据处理任务的语言模型中,递归神经网络展示出了当前最优秀的序列预测能力。文中通过将三层RNN按一定层次组合在一起,由低层到高层使每一层负责不同层次的信息处理,从而使新模型具有更强的信息综合能力,从而使得模型更容易处理较长的数据序列。在Penn Treebank Data数据集做字符级(Character-Level)语言模型中的测试结果显示,新模型获得了与CNN-LSTM等当前最好模型相匹敌的成绩。
其他文献
<正> 昭化古城,古称葭萌,位于四川省广元市西南约10公里的嘉陵江和白龙江交汇处,历经了2275年的连续县治和165年的郡治。北枕秦拢,西凭剑门,自古就是"全蜀咽喉,川北锁钥",为
近日,发改委会同财政部等17部委共同制定了《“十二五”节能减排全民行动实施方案》。方案中表示将加快推进公务用车制度改革,全国政府机构公务用车按牌号尾数每周少开一天,开展
<正>看配方:水溶肥实际上就是配方肥,根据不同作物、不同土壤和不同水质配制不同的配方,以最大限度地满足作物营养需要、提高肥料利用率、减少浪费,所以,配方是鉴别水溶肥好
聚美优品的改革和跨界目前尚未取得实质性进展。就其现有业务而言,未来或许并不乐观,除非重新聚焦核心业务,这意味着某种程度上聚美优品需要重新来过,而这其实是它并不愿意接受的
报纸
中考复习对初中生的重要性毋庸置疑,如何搞好中考物理学科的复习呢?本文就如何充分发挥教师的引导作用和同行进行一下探讨。在复习时我们往往特别关注学生"主体"作用,却常常
<正>新凌越上市后,金龙客车将形成覆盖城乡、社区、中短途接驳的支线公交客运全能型产品阵营。据前不久发布的《2015年交通运输行业发展统计公报》显示:截至2015年年底,我国
期刊
<正> 手动喷雾器低容量喷雾,是近年来研制成功的一种新技术。它是将手动喷雾器原来的1.3毫米孔径的喷头改为0.7毫米;用液量由大容量喷雾变成低容量喷雾,喷雾方法由针对性喷雾
<正> 我国自十一届三中全会以来,在“对外开放、对内搞活”的方针指导下,技术引进工作取得了很大成绩。据不完全统计,截止1984年,中技公司引进的项目已达1700多项,用汇39.3亿
【正】自主品牌汽车原创设计起步得较晚,在过去的几年里经常靠模仿合资车和一些进口车来开发新车型,这让不少消费者感到不满。如今时过境迁,自主车也不完全是"山寨货"了,有很