分数阶深度神经网络的优化及其应用研究

来源 :杭州电子科技大学 | 被引量 : 0次 | 上传用户:cyld2006_ldcy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着现代信息科学技术的不断发展和计算机硬件水平的不断提高,人工神经网络在多个领域得到越来越广泛的应用。人工神经网络由许多非线性计算单元组成,可以通过训练获得处理复杂信息的能力。基于梯度下降算法进行训练的人工神经网络在实际应用中十分广泛,其原理是基于整数阶微积分理论对损失函数进行优化,从而改进神经网络的权值和阈值,使得神经网络在训练过程中不断调整,最终达到训练的平衡点。本文将基于分数阶微积分理论的梯度下降算法应用于不同的神经网络模型,并与传统的神经网络模型作比较,研究分数阶微积分对神经网络的改进效果。此外,神经网络参数的初始分布也对神经网络的性能起着至关重要的作用,所以本文使用极值优化算法对神经网络的初始参数的进行优化研究。基于神经网络的入侵检测系统在实际应用过程中取得了较好的成果,而基于分数阶微积分理论与优化算法的改进神经网络在性能上较一般的神经网络有望得到提升,所以研究改进后的神经网络在入侵检测领域中的应用具有重要的工程价值。本文旨在研究分数阶神经网络的优化设计及其在不同场景中的应用问题,考虑了分数阶微积分理论在不同神经网络中的应用场景,并将优化后的分数阶神经网络应用于图像识别和入侵检测等领域。本文的主要内容分为如下几个部分:第一部分为绪论,主要介绍人工神经网络的概念、理论背景、多种神经网络模型及其应用场景。然后,在此基础上引出了基于分数阶微积分理论的神经网络以及神经网络的优化研究。最后,介绍与本文研究课题相关的国内外研究现状。第二部分介绍与本文研究课题相关的理论背景知识,包括分数阶微积分理论、BP神经网络、卷积神经网络、残差网络、极值优化算法,并且详细介绍分数阶微积分的不同定义、BP神经网络的训练原理、卷积神经网络的实现原理、极值优化算法的实现流程。第三部分研究基于极值优化的分数阶深度BP神经网络(FODBP)。基于Caputo的分数阶微积分理论被用于改进深度BP神经网络的权重更新策略,并且考虑到初始权重对深度BP神经网络性能的重要影响,本文使用群体极值优化(PEO)算法为分数阶深度BP神经网络择优选取初始权重。首先,本文对分数阶深度BP神经网络进行理论推导;然后,通过分步介绍与流程图的方式,给出基于极值优化的分数阶深度BP神经网络算法的实现流程;最后,设计仿真实验,对MNIST手写数字数据集进行识别仿真,通过对比PEO-FODBP算法与FODBP算法在不同分数阶下的训练精度与测试精度,验证了本文提出的分数阶微积分理论与极值优化算法对深度BP神经网络的优化效果。第四部分研究基于极值优化的分数阶卷积神经网络(FOCNN)。本文使用基于Caputo的分数阶微积分理论改进了卷积神经网络权值和阈值的更新策略,并且使用极值优化算法为分数阶卷积神经网络择优选取初始权值和阈值,大大提升了卷积神经网络的性能。首先,本文对分数阶微积分理论应用于卷积神经网络的过程进行了详细推导;然后,通过分步介绍与流程图的方式,给出基于极值优化的分数阶卷积神经网络算法的设计流程;最后,设计了两个仿真实验:对比PEO-FOCNN与FOCNN算法在不同分数阶下的训练精度与测试精度;对比PEO-FOCNN、PSO-FOCNN、DE-FOCNN和GAFOCNN算法的统计校验结果。通过仿真验证了基于极值优化的分数阶卷积神经网络算法的优越性。第五部分研究基于极值优化的分数阶残差网络(FORes Net)在入侵检测中的应用。本文使用基于Caputo的分数阶微积分理论改进残差网络权值和阈值的更新策略,使用极值优化算法择优选取分数阶残差网络的初始权值和阈值,并将提出的算法应用于入侵检测的研究。首先,本文对入侵检测领域的理论背景进行了详细地介绍;其次,对分数阶残差网络进行了理论推导;再次,对基于极值优化的分数阶残差网络识别网络入侵行为进行算法设计;然后,给出了NSL-KDD数据集以及UNSW NB15数据集的相关知识;最后,通过对NSL-KDD数据集进行多分类识别仿真、对UNSW NB15数据集进行二分类识别仿真,得出基于极值优化的分数阶残差网络算法可以有效识别网络入侵行为的结论。第六部分总结与展望,主要是对本文研究内容以及得到的结论进行总结,并对研究工作进行展望。
其他文献
大力提高能源利用率是我国实现“碳达峰”和“碳中和”目标的挑战难题。电力电子技术能大大提高电能的利用效率,是实现高效电能转换的关键技术。功率因数校正技术被引入以减少谐波电流对电网的污染,从而提高电网的供电质量。在当前的功率因数校正的研究中,如何实现变换器的高效率、高功率因数和高功率密度是当下研究的关键。本文分析并对比了当前功率因数校正技术中的优缺点,并从电路结构、开关器件和控制策略三个方面着手,结合
伴随着移动新媒体的发展,传统媒体的生存空间进一步被压缩,互联网信息技术在提升信息传播效率的同时,也为传统媒体带来了融媒体转型发展的新挑战。融媒体转型不仅是新技术的应用和原有渠道的拓展,从根本上也离不开新闻创作和传播思维的转变。电视节目策划必须要实现新的转型,通过加强新闻策划提高新闻节目的网络适应性,以实现新媒体环境下的信息传播和短视频新闻转型。本文结合新媒体环境下电视节目策划存在的问题,探索如何提
SAR图像变化检测是通过对某一地域或物体的多时相SAR图像进行处理,然后评估目标是否发生变化并提取变化特征的技术。由于SAR发射的电磁波无需光源,可无畸变穿透云雾水汽,不受光照、温度等复杂气候影响,SAR可在任意气候下工作,这使通过SAR系统获得的SAR图像顺理成章变成变化检测的核心数据,并被大规模应用。随着技术的逐渐成熟,SAR图像变化检测已在农田规划、自然灾害检测、地理勘察、水域监测及军事侦察
生物视觉的感知能力具有极其精确和高效的性能,因而成为神经科学和计算机视觉领域研究的热点。生物视觉感知作用中,复杂的视觉神经机理是视觉系统高效运转的关键因素,因此探索其中的视觉机制对进一步深入理解视觉感知具有重要意义。本文受此启发,重点研究生物视觉系统中,前端视通路有关神经结构如视网膜、外膝体、初级视皮层和上丘,以及在经典感受野和非经典感受野之间的神经编码机制,还有神经元的脉冲放电机制,并依此构建视
在研究多智能体系统的相关控制问题时,一致性控制算法因其在无人机、智能机器人编队等的实际应用价值而受到了广泛关注。然而,在实际控制系统中,执行器故障、拓扑结构切换和时滞的存在均会降低闭环系统的性能。为了在有效降低各类因素对系统影响的同时保证系统的稳定性,本文针对Markov跳变多智能体系统,利用容错控制理论、Lyapunov稳定性理论、代数图论等方法开展基于观测器的容错控制方法研究。主要研究内容如下
在体外构建具有生物活性的三维多细胞体系是细胞3D打印的前提及关键环节。三维多细胞体系经培养繁殖达到组织再生、器官修复的目的,对生命科学和生物医药的发展意义重大。针对现有细胞3D打印使用生物支架或支撑带来的在细胞密度、细胞间通信、支架降解率、可打印性和生物相容性等方面的问题,本文提出了基于超声阵列声压微势阱非接触操控细胞构建细胞三维体系的方法。研究阵列声压微势阱细胞的操纵方法,引入细胞的脉冲微输送技
情感在人与人之间的互动中起着重要作用,在人机交互中也是如此。当机器能够感知到人类的情绪时,可以进行更具有个性化且具有针对性的交互,而情感识别是其中的一个关键技术。目前,脑电信号由于其高时间分辨率,已经被广泛应用于情感识别任务中。但现有大部分方法都是被试特定的,当已有模型应用在新的被试上时,其泛化效果差,极大阻碍了情感识别任务在实际场景中的应用。这是由于不同被试间的脑电信号差异巨大,已有模型很难适用
近年来,计算机和通信技术的快速发展,给不同领域注入了生机。不同的学科和计算机技术相互交叉、共同进步,其产物弥补了学科的空缺地带。网络控制系统是产物中的杰出代表之一,系统不同模块间使用网络来进行通讯,而不再是传统的双绞线,从而避免了连线复杂,难于扩展和维护等缺点。但是它也存在一些不足,如:数据包错序、网络时延和数据丢包等。如果忽略这些问题,势必会给系统性能带来不利的影响。因此越来越多的学者将目光聚焦
近年来,高光谱图像分类逐渐成为了高光谱领域中的研究热点,在国民经济发展和国家安全中都发挥着重要作用。高光谱图像具有维度高、冗余性高、数据量大等特点,对高光谱图像特征提取以提高分类准确度是高光谱图像分类任务中的关键问题,特征质量的好坏直接影响着分类准确度的高低。但是,高光谱图像的同物异谱和同谱异物现象、带标签样本数量少、样本标记成本高,以及巨大的数据量使得高光谱图像的特征提取和分类面临着许多困难和挑
二硫化钼(MoS2)是二维材料家族的典型代表,由于其内部结构与石墨烯相似,不仅保留了石墨烯优良的电、光、机械性能。同时其具有1.2~1.8 e V的可调带隙,并且通过改变厚度可以调控禁带宽度,因此在制备电子学器件(如场效应管、发光二极管、光电探测器)上具有独特的优势。随着科技的高速发展,要在芯片上集成大量元器件,传统硅材料会产生漏电和散热不佳等问题,而二维结构的二硫化钼单层薄膜厚度往往是小于1 n