信赖域方法是求解非线性规划问题的常用方法之一，因其具有良好的可靠性和强健的收敛性备受非线性优化领域专家们的关注。近几十年来，对信赖域方法的研究日趋成熟，但对非单调信赖域算法理论的研究仍不完善。 本文首先介绍非单调信赖域算法的基本知识，包括非单调信赖域算法的理论、算法、应用和研究现状。然后从信赖域子问题的角度出发，对无约束优化问题提出了一个改进的非单调信赖域算法。主要工作如下： 1．综述非单调信赖域算法的历史背景和研究现状。 2．分别给出无约束优化问题和线性约束优化问题的信赖域算法，证明其信赖域算法是全局收敛的。然后针对信赖域子问题的合理性，对信赖域子问题的类型做了详细讨论。对一般约束优化问题提出一种非单调信赖域算法，并给出该算法的收敛性证明。 3．在研究高维非线性规划问题的信赖域方法时，由于无记忆信赖域子问题模型容易失去一些全局性质，对搜索方向的选取不利，因此引入记忆模型，并对无约束优化问题提出一个带记忆模型的非单调信赖域算法，证明该算法在一定条件下是全局收敛的。数值实验表明该算法在求解高维非线性规划问题时比一般算法更有效。