多输出神经元模型的多层前向神经网络及其应用

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:rhux1069
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
神经网络是高度非线性动力学系统,又是自适应自组织系统,可用来描述认知、决策及控制等的智能行为,使得智能的认识和模拟成为神经网络理论研究的一个重要方面;同时,神经网络理论又成为信息并行处理的基础,PDP(并行分布处理)成为80年代中后期的一个研究新热点,它进一步拓展了计算概念的内涵,使神经计算、进化计算成为新的研究领域。引起了包括计算机科学、人工智能、认识科学、信息科学、微电子科学、自动控制与机器人、脑神经科学等学科与领域的科学家的巨大热情和广泛兴趣。然而,传统神经元的M-P模型用连接权值和非线性激活函数分别模仿神经元的突触和细胞体的作用。在训练过程中,权值是可以调节的,但激活函数不能调节,是事先确定的。这种模型过于简单,其性能受到极大的限制。基于此,人们提出激活函数可调的神经元模型(TAF)以及由此模型构成的多层前向神经网络(TAF-MFNN),与传统网络相比,采用这种新型的神经元模型来解决某些问题时,所需要的网络会更为简单,网络性能会更好,推广泛化能力也会更强。但是,用来训练这种网络的BP算法收敛速度慢,容易陷入局部极小。众所周知,RLS算法具有收敛速度快,收敛精度高等优点,本文将激活函数可调的神经网络进行变形,使得变形后的网络和原网络等价,给出了网络学习的快速算法。通过仿真实验,改进的算法大大提高网络的收敛速度和精度。在此基础上,本文将激活函数可调的神经网络进行改进,提出了多输出神经元模型(MO)以及由此模型构成的多层前向网络(MO-MFNN),并给出了网络的RLS算法、LM算法、LMAM算法和OLMAM算法。通过仿真实验,得到结论:在训练样本不太大时,选择利用LM算法、LMAM算法和OLMAM算法来训练网络;在训练样本很大时,选择利用RLS算法来训练网络。在神经网络的训练中大多用如下均方误差函数(MS)作为网络的训练目标函数,直到现在,大多数快速算法都是基于MS基础上得到的。但是MS有两个主要缺点,一方面MS误差函数面存在很多的次最优解,在网络的训练过程中,易于陷<WP=5>入这些次最优解;另一方面,MS误差函数是一个能满足各种不同方面应用的通用判决标准,利用MS误差函数训练网络容易出现过拟和现象。为了提高网络的性能,如降低测试误差和提高网络的泛化能力,在一些特殊的应用中,需考虑额外的假设和启发性的信息。其中一个利用先验知识的技巧是正则化方法,即构造一个正则化的目标函数。本文研究了MO-MFNN带正则化因子的学习算法,仿真实验表明,利用MO-MFNN可以减小计算复杂度和存储量。神经网络具有并行性和自然容错性的能力,非常适合于非线性系统的实时自适应控制。到目前为止,还没有一种较为成熟的快速在线学习算法,而快速在线学习算法是实时控制的关键。多输出神经元模型的多层前向神经网络具有极大的网络容量,泛化能力强,网络结构简单,待定参数少,在线学习速度快,仿真实验表明,利用MO-MFNN进行非线性系统控制可以大大减小CPU时间,使其应用实时控制成为可能。
其他文献
为解决芦岭矿复杂煤层综放工作面回采期间瓦斯涌出量大的问题,通过分析综放工作面瓦斯涌出特性,研究采空区瓦斯运移特征,运用COMSOL数值软件探索一次采放全高综放工作面采空
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
目前我国高校学生考勤系统存在代打、效率低、费时长等缺点,无法满足高校考勤工作的需要。该文主要通过从监控视频中获取的图像帧,结合多人脸识别技术和数据库,设计高校学生自动考勤系统。系统能在无人工干预的前提下自动快速进行学生考勤工作,对解决目前高校学生出勤率低的问题有重要的实用价值。
步入21世纪之后,社会的发展对人才的依赖性更强,特别是在国际的竞争中,人才竞争已经成为主流。对于我国的高等教育而言,要突出人才培养国际化的特点,才能有效增强国家的综合
对新型城镇化进行论述,对全民健身服务体系进行诠释,分析了全民健身服务体系的特点及对农村发展的影响;对农村全民健身的现状:体育人口的分布、体育项目的选择、农民参与全民
通过矿山开采,可以为我国社会发展提供相应的资源,并且促进我国社会的经济发展。下面本文将对矿山地质灾害的主要类型做出介绍分析,随后提出相应的矿山地质灾害防治与地质环
先天性心脏病是最常见的先天性畸形之一,其发病率为6-8‰活产儿。国外研究报道运用胎儿超声心动图对胎儿心脏进行产前检查是一项先天性心脏病早期筛查与诊断的有效方法。正确
煤矿水害是与瓦斯、煤尘、顶板、火灾并列的五大灾害之一,其严重程度仅次于瓦斯。本文从井下环境、开拓部署、可开储量三个方面分析了水文地质对煤矿开采工作的影响,并从资料