改进的激活函数可调神经网络算法及其应用

来源 :南京工业大学 | 被引量 : 0次 | 上传用户:mongtianxu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工神经网络用数学思想和计算机工具对人类神经系统的思维活动进行模拟,被应用在各个工程和科学研究的领域,比如经济预测、工程计算、模糊控制、图像处理、模式识别等,解决了很多人们生产生活和科研中的问题,并且它的应用领域正在扩大。但是在这些应用当中也会发现人工神经网络的一些不足,比如学习速度慢、泛化能力弱、稳定性差等不足。这些不足可能是由于网络的结构或者信号处理方式以及学习算法不当引起的。目前为止神经网络的构造以及激活函数的选取只能是进行实验或者根据经验来确定,并没有具体的理论进行指导。   本文在前人工作的基础上进一步讨论前向神经网络的激活函数。给出了一种激活函数自适应的TAF神经元网络算法,在没有任何先验知识的前提下,将连续可导函数的各阶导数以及平移函数,通过线性组合的形式,形成新的神经元激活函数。针对BP网络模型,通过误差梯度下降原理,采用对各基函数系列的系数、基函数系列内部系数、各层神经元连接权重等参数同时调整策略,自动选择和组合相应的激活函数,使之更具有普遍的适应性,进而提高神经网络的逼近精度和泛化能力。对混沌时间序列的Feigenbaum函数和检验学习算法的“试金石”双螺旋线的划分问题进行了仿真实验,得到了很好的效果,表明激活函数自适应的TAF神经元网络算法切实可行,并且有很强的自适应能力。   RBF神经网络是一种新颖的前馈神经网络,相比传统的BP神经网络具有更强的函数逼近、分类能力,以及更快的学习速度。在实际应用和科学研究中,不同径向基函数的选择对RBF神经网络的性能有很大的影响,一般是根据经验或者实验效果来选择适当的径向基函数。本文提出一种激活函数可调的RBF神经网络模型,将具多种有不同表达能力的径向基函数通过线性组合的形式形成新的神经元激活函数,并采用误差梯度下降的学习算法对网络进行训练,进而提高神经网络的逼近精度和泛化能力。特别是对于有监督的神经网络学习模式,给出了相应的径向基函数中心位置、宽度、隐层到输出层的权重等参数的训练算法和应用仿真实例,并取了很好的效果,表明了这种算法是非常有效的。   最后,本文对化工中精馏丙烷产品中的C03含量曲线使用激活函数可调的RBF模型进行拟合。对某化工厂的精馏塔400小时内的426个数据拟合的结果说明了该方法的有效性。
其他文献
“皮肤听声国际专题网站”是一个主题性的网站,它的建立是为了让人们更多的了解“皮肤听声”这门新兴的信息理论。由于它涉及众多学科,故此,为了使得皮肤听声技术有更进一步的发
本文主要研究在异构环境下如何实现XML文档与关系数据库之间跨平台安全高效的存储、访问和管理。   XML到关系数据库的映射模式有多种,其中基于对象-关系的映射模式充分体
云计算为e-Learing提供了更好的平台。现在多数e-Learning平台不能在公有或私有云平台与私有网络架构之间共享资源,一般需要花费额外代价去部署环境。本文提出了一种基于VPN
多目标跟踪在军事和民用方面得到了广泛的应用。多目标跟踪问题主要包括跟踪门的形成、数据关联与跟踪维持、跟踪起始与跟踪终结、漏报与虚警等等。其中数据关联是最重要最困
随着信息技术的发展,互联网已成为人们获取信息的主要途径,如何快速的在众多信息资源中找到自己需要的信息,成为当前一个亟待解决的问题。互联网上的信息大部分是文本数据,而文本
网络计划技术是一门兼有技术性和工程性的新兴学科。随着网络计划技术的不断推广,其理论的不断成熟,越来越多的优化算法应用于工程项目的网络计划范畴中来。本文分析和比较了网络计划中的优化算法,特别讨论了粒子群算法,并对其改进形成了基于速度松弛策略的模拟退火粒子群算法(RSAPSO)。对资源,工期,费用,质量等多方面进行研究后,建立了资源均衡模型和多目标优化模型,并引入改进后的粒子群算法进行求解。实验证明,
传统的聚类算法,如k-means算法、EM算法等,都是建立在凸形分布的样本空间上,若样本空间不为凸,算法将会陷入局部最优,因此不能对任意形状分布的样本聚类。hSync(Synchronizat
本文论述了VPN系统的优点,产生的历史原因和适用范围,以及VPN系统在国内外发展的现状。分析了连云港中医药高等职业技术学校校园网的现状及存在的问题。为了更好地解决学校移动
随着信息时代的到来,随着建设数据大集中平台的发展,越来越需要一种有效的管理方法来组织日益庞大的信息量,处理异构的不同来源的资料的主要方法用到了数据交换技术。本文阐
随着新一轮产业结构的调整,信息化成为一个重要的话题,如何更加高效的使用IT资源,已成为企业普遍关心的问题。资源管理系统的建设使企业能对自身的IT资源进行一定程度上的管