论文部分内容阅读
最优化问题在工业、农业、国防、通信等领域都有广泛的应用。特别是随着近些年来计算机技术的不断发展,各类软件的不断完善,快速、高效的求解最优化问题显得越来越重要,也成为现实。在众多求解最优化问题的方法中,线搜索技术与信赖域策略是研究算法的全局收敛性的两个重要的手段,同时,与其相应的问题张量是解非线性方程组的数值方法,在合理的条件下,上述方法还具有超线性及二次收敛速率。本文针对解约束及无约束非线性方程组问题,将其转化为最优化问题,在最优化问题目标函数导数信息难以获得的情况下,提出了各类无导数算法,并研究其收敛性,以及数值实现。信赖域方法主要思想是在当前迭代点的某个邻域内极小化目标函数的一个合适的二次模型,并不断校正信赖域半径,得到一个可以接受的方向步。本文给出了解有界约束的非线性方程组的无导数信赖域内点算法。利用插值函数构造信赖域子问题,通过引入仿射变换矩阵将有界约束转化为仿射信赖域子问题,并结合线搜索技术得到严格内部可行点。对于带有线性不等式约束的非线性方程组,通过构造相应的仿射变换矩阵,同样可以将原问题的子问题转化为只有椭球约束的信赖域子问题。线索搜技术的应用使得算法在运算过程中避免反复求解信赖域子问题,提高了算法的效率并保证得到严格内部可行点,在合理的条件下所给出的这类算法具有全局收敛性和超线性收敛速率。数值结果表明了算法的有效性。Levenberg-Marquardt算法是求解非线性方程组问题的一类常用方法。在利用Levenberg-Marquardt模型求解问题的过程中,每次迭代一般要求得到精确解,然而,对于大规模问题,求出模型精确解计算量较大,为了克服这一困难,在很多情况下不精确模型起到了非常重要的作用。在本文中,利用插值函数构造无导数LevenbergMarquardt算法,为了保证插值模型与原问题具有较好的近似度,要求插值点集合具有Λ-稳定性,并且插值半径趋于0,为了达到这一目的,算法中利用插值函数梯度的范数来更新插值半径。通过引入仿射变换矩阵,并求解一个严格凸函数的近似解得到迭代方向,当该迭代方向不严格可行时,利用回溯线搜索技术得到可接受的步长因子。该步长因子不仅保证新的迭代点有足够的下降量,而且使得它位于可行域的内部,在局部误差界的假设下,证明了此类方法具有超线性和二次收敛速率。数值测试表明算法的可行性与有效性。张量方法是求解无约束非线性方程组的一类有效的方法。这种方法主要用来求解Jacobi矩阵奇异或者病态情况下的非线性方程组。本文利用插值函数构造原问题的无导数张量模型。同样利用梯度范数更新插值半径,保证插值模型与原问题具有较好的近似度。根据Jacobi矩阵的不同情况,分别利用曲线线搜索技术和Block 2模型求解张量模型,得到近似张量步,并利用2维信赖域策略保证算法具有全局收敛性。数值实验表明了以上所给算法的可行性和有效性。本文最后对所做工作进行总结并提出了进一步的研究方向。