论文部分内容阅读
优化问题在科学和工程应用中随处可见。神经网络能获得优化问题的实时解,所以利用神经网络对优化问题求解已经得到了广泛的关注。 本文针对伪凸优化问题与非凸二次优化问题两类情形,基于投影理论,极值映射以及法锥相关性质,分别构造离散和连续型神经网络的求解算法;并探讨了其在求解支持向量机中的应用。全文共分以下三个部分: 针对伪凸优化问题,提出了一个离散型神经网络模型。首先,利用Karush-Kuhn-Tucker(KKT)条件和投影理论构造投影方程,使得投影方程的解与优化问题的解一一对应;进一步基于投影方程建立离散神经网络;理论结果表明,网络的平衡点与优化问题的最优解相对应,且网络具有全局指数收敛性。相比于连续网络,本文所构造的网络结构简单,减少了计算的复杂度;所得理论结果保证了网络能够有效求解伪凸优化问题。最后,利用数值算例进行仿真,数值结果表明了所设计的网络求解伪凸优化问题的有效性。 针对非凸二次规划问题,首先根据规划问题的等式约束与不等式约束,分别构造了不同的罚函数。然后,利用极值映射以及正则函数的相关性质构造一微分包含形式的神经网络模型。针对所构造的网络模型,基于微分包含相关性质证明了罚函数沿着所构造的网络能在有限时间收敛至可行域内。其次,对网络的平衡点与临界点的一致性进行了证明,并基于切锥与法锥的性质分析了优化问题的最优点集与临界点集之间的关系。最后,在适当的假设条件下,对网络的收敛性进行了严格的证明。 针对支持向量机的分类与回归问题导出的二次规划问题,利用所构造的离散神经网络进行求解。数值结果表明本文所构造的网络在求解支持向量机问题中表现出优良的性能。