论文部分内容阅读
人工神经网络用数学思想和计算机工具对人类神经系统的思维活动进行模拟,被应用在各个工程和科学研究的领域,比如经济预测、工程计算、模糊控制、图像处理、模式识别等,解决了很多人们生产生活和科研中的问题,并且它的应用领域正在扩大。但是在这些应用当中也会发现人工神经网络的一些不足,比如学习速度慢、泛化能力弱、稳定性差等不足。这些不足可能是由于网络的结构或者信号处理方式以及学习算法不当引起的。目前为止神经网络的构造以及激活函数的选取只能是进行实验或者根据经验来确定,并没有具体的理论进行指导。
本文在前人工作的基础上进一步讨论前向神经网络的激活函数。给出了一种激活函数自适应的TAF神经元网络算法,在没有任何先验知识的前提下,将连续可导函数的各阶导数以及平移函数,通过线性组合的形式,形成新的神经元激活函数。针对BP网络模型,通过误差梯度下降原理,采用对各基函数系列的系数、基函数系列内部系数、各层神经元连接权重等参数同时调整策略,自动选择和组合相应的激活函数,使之更具有普遍的适应性,进而提高神经网络的逼近精度和泛化能力。对混沌时间序列的Feigenbaum函数和检验学习算法的“试金石”双螺旋线的划分问题进行了仿真实验,得到了很好的效果,表明激活函数自适应的TAF神经元网络算法切实可行,并且有很强的自适应能力。
RBF神经网络是一种新颖的前馈神经网络,相比传统的BP神经网络具有更强的函数逼近、分类能力,以及更快的学习速度。在实际应用和科学研究中,不同径向基函数的选择对RBF神经网络的性能有很大的影响,一般是根据经验或者实验效果来选择适当的径向基函数。本文提出一种激活函数可调的RBF神经网络模型,将具多种有不同表达能力的径向基函数通过线性组合的形式形成新的神经元激活函数,并采用误差梯度下降的学习算法对网络进行训练,进而提高神经网络的逼近精度和泛化能力。特别是对于有监督的神经网络学习模式,给出了相应的径向基函数中心位置、宽度、隐层到输出层的权重等参数的训练算法和应用仿真实例,并取了很好的效果,表明了这种算法是非常有效的。
最后,本文对化工中精馏丙烷产品中的C03含量曲线使用激活函数可调的RBF模型进行拟合。对某化工厂的精馏塔400小时内的426个数据拟合的结果说明了该方法的有效性。