多隐层前馈神经网络的随机赋权训练算法研究

来源 :河北大学 | 被引量 : 0次 | 上传用户:metoo321
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
智能软件系统已成为软件工程领域最重要的研发对象之一。无论是学术界还是工业界,都对能使软件智能化的算法产生了浓厚的兴趣。其中,与模式分类有关的算法更是得到了业内的广泛关注,通过对分类算法的研究、优化与创新,使得软件智能化的水平得到了显著的提高。最近几年,人工神经网络在理论上和应用上的突破都引人瞩目,尤其是深层神经网络的优越性正逐渐被人们所认可,国内外很多学者都致力于深层神经网络的研究工作,并提出了大量的优秀算法。深层神经网络模型的种类很多,根据训练算法来分,其中有两类,第一类是基于贪婪算法的逐层预训练的深层神经网络模型;第二种是通过随机赋权方法来构造的深层神经网络模型。本文第一部分的工作主要研究了两类深层神经网络模型中具有代表性的两个模型。其中,基于受限玻尔兹曼机逐层预训练的方法是深度学习的主要方法之一,该方法通过借助物理能量模型来对网络中每一层的参数进行预训练,之后逐层叠加成深度置信网络,通过在最后一层加上softmax层输出网络的分类结果,然后进行网络精调,本文以这个方法为基础,结合广义逆的知识对该方法进行了简化的工作,并进行比较研究;另外,用基于极速学习机的原理来训练得到的深层网络是典型的深层随机赋权网络,该类型的网络以效率著称,并在工业界得到了广泛的应用。本文第二部分的主要工作是对分类器集成方法的研究,并且利用分类器集成的方法将深层神经网络模型进行集成,并将这种方法与深度学习、深度随机赋权网络进行了比较研究。在本文的实验部分,为了使得对比分析结果具有客观性,本文选取了多个不同领域的分类数据集,并且涵盖了数值型和符号型两类数据集,本文通过对深层神经网络、浅层神经网络和本文方法在测试精度、训练时间以及模型的拟合程度等多个方面进行比较研究,得出了一些具有一定参考价值的结论。
其他文献
目的观察针刺手部咽喉点穴位治疗慢喉痹的临床疗效。方法观察78例慢喉痹患者经过手针治疗的症状改善情况,得出手针的临床疗效。结果手针治疗慢喉痹有效率94.8%。结论手针治疗
目前的建筑工程施工中,超限建筑日益增多,多样化的布局及结构形式成为了超限建筑发展的必然趋势,同时以性能要求为基础的抗震理论设计成为了工程建筑领域关注的焦点.在超限结
以大豆为原材料,采用传统豆腐制作工艺,探讨加工工艺对南豆腐品质的影响,并利用傅里叶变换红外光谱和十二烷基硫酸钠-聚丙烯酰胺凝胶电泳研究加工过程中大豆蛋白结构的变化。
上市公司收购与资产重组是互为表里的关系,收购行为往往伴随着重大资产重组,而控制权转移又是资产重组的前提(实践中一般通过定向增发股份认购资产同时进行)。由于要注入新的经营性资产,重组方一般要求做到净壳收购,如何处理上市公司中的原有资产和负债,使上市公司成为一个“零资产、零负债”的净壳,是上市公司收购重组中常见的一个问题。  在粤美雅(广弘控股重组前公司名称)重大资产重组的案例中,为收购上市公司原有资
为实现布拉酵母高密度培养,对其高密度发酵培养基和发酵工艺进行优化。采用Plackett-Burman试验筛选培养基中的显著因素,并进行中心组合设计。通过人工神经网络(artificial n
目前国内富人家族的孩子中,仅有约10%的子女具备能够继承父母的优良品质,那么引进职业经理人就显得不可或缺,已经有一批企业勇敢地踏出了第一步    对于家族企业而言,2009年依然是一个多事之年。2009年8月11日,真功夫第二大股东潘宇海委派的“副总经理”与公司总部人员发生“肢体冲突”,揭开了真功夫“股东内讧”的帷幕。此后的9月27日,央视二套《经济与法》栏目以触及法律底线的怪异形式曝出了远东皮革
采用Ti活性中间层对ZrC--20%SiC复合陶瓷进行扩散焊连接,研究了活性元素Ti与复合陶瓷的界面反应机理,分析了焊接温度对接头微观组织以及力学性能的影响。结果表明:Ti与复合陶