求解一类非光滑优化问题的广义神经网络方法

来源 :江南大学 | 被引量 : 1次 | 上传用户:pioneerp
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
最优化问题源于军事、管理、经济和工程技术等领域中,解决此类问题的方法在图像处理、通信、设计操作过程、生产装置分析、经济运作决策等方面的应用也越来越广。随着现代科技的发展,目前在各领域出现的优化问题中,问题的维数越来越多,而结构也越来越复杂。这就要求人们能够提供更有效的数学模型来求解此类问题。特别是在求解实时解的过程中,当处理具有较高维数和较复杂结构的优化问题时,我们必须考虑到计算时间。而计算时间是在极大程度上依赖于问题的维数与结构,以及算法的复杂度。一般来讲,因为数值方法是凭借迭代来计算的,传统的数值方法对于解决具有高维数和较复杂的问题可能不会很奏效。而神经网络的出现,使得解决此类优化问题不再只是依赖于迭代,而是利用神经网络对于处理此类问题的独特优势,即,它的自适应性和并行性,可以使得计算的速度有很大的提高。最近,利用神经网络开发最优化问题的算法取得了很大进展,并由此产生了一些神经网络模型。但这些模型主要集中于光滑优化问题的研究,或者将不光滑的目标函数近似逼近为光滑函数。近年来,随着集值映射和非光滑理论的不断深入研究,应用神经网络方法研究非光滑优化问题逐渐受到重视。然而,对于极小极大优化问题的研究,目前不只是停留在应用数值方法来研究的程度上。利用神经网络来探索此类问题最优解的方法逐渐地发挥了它的作用。特别是在微分包含理论和凸分析理论日臻成熟的基础上,神经网络逐渐地在非光滑优化分析上发挥了它的价值。   基于以上的分析,本文首先给出了在优化方面关于利用神经网络方法探究最优解的相关进展,以及非光滑理论和凸分析理论的相关概念和引理;其次,介绍了三种广义神经网络方法,并研究了如何求解一类无约束的极小极大优化问题,带线性等式约束的极小极大优化问题,还探索了如何利用投影神经网络来求解一类非光滑优化问题。具体内容为:   (1)、求解一类带有无约束非光滑成本函数的极小极大问题的广义神经网络。主要是利用微分包含理论,稳定性理论和推广的Lojasiewicz不等式来研究了一类带有无约束的,次解析的,凸的成本函数的优化问题,并且讨论了此类广义神经网络理论结果的有效性。   (2)、求解一类带线性等式约束的极小极大问题的广义神经网络。在带有线性等式约束的情况下,利用投影神经网络,微分包含理论和稳定性理论来构造一种广义神经网络,探索求解带线性等式约束的极小极大优化问题的方法,并且给出了此类广义神经网络理论结果的有效性证明。   (3)、基于投影的广义神经网络的收敛性及其在非光滑优化问题中的应用。投影神经网络在解决光滑优化问题中发挥了重要的作用,而对于解决非光滑优化问题的应用还不成熟。由于极小极大问题是非光滑的,因此,在前面两部分的基础上,我们主要探讨一种基于投影的广义神经网络在非光滑优化问题中的应用,并且给出了这种广义神经网络的收敛性证明和数值仿真。   另外,从理论上分析了三种广义神经网络的收敛性之后,我们给出了数值仿真例子来说明理论结果的有效性。
其他文献
本课题的研究的内容包括两个方面:第一个是运用概率的方法重新证明Hermite多项式恒等式以及在此基础上得到的相关推广,第二个是运用概率的方法研究并得到了新的组合恒等式。
学位
交通均衡问题历年来被广泛研究,在交通规划及管理中,有着深远的价值和意义。Wardrop用户均衡原则是研究交通均衡问题的一个重要基础,它提出:交通网络的使用人在起点和终点之间选
物以类聚,人以群分。社团结构广泛存在于由大量相互作用的个体构成的大型复杂系统中,如生态网、科研合作网、神经网络等。社团网络常被用来描述这类具有社团结构的系统。同一
本文主要研究了两种模型在二次损失下模型相关系数的Minimax估计.首先,我们简单介绍了线性模型中的一些基本理论知识和损失函数的相关定义,又介绍了统计决策函数问题的一些基本
在实际研究中经常会遇到潜在变量和异构数据.混合结构方程模型是分析这些数据的常用方法.另外,缺失值,包括响应变量缺失和协变量缺失都是实际研究中的重要课题.本报告的主要
学位
本文给出两种方法,将指数分布下k个应力水平定数截尾步加试验数据转化为对应的恒加试验数据.然后利用恒加试验结果,分别给出在应力水平si下产品平均寿命的经验分布估计,二次
学位
Hopfield中经网络本身所固有的并行性质和强大的计算能力使得基于该网络的图像复原算法普遍具有较快的运行速度.但是,一方面,网络中神经元状态是阶跃取值的,使得网络不能精确
双枝模糊集(简称为BBFS)与R-Fuzzy集是普通模糊集的两种推广形式。   对双枝模糊集而言,它的提出解决了工程决策与工程控制中一些未能解决的问题,且较传统的模糊集有更强的