随着互联网与信息技术的发展,人类面临的大规模优化问题越来越多。为解决此类问题,科学家们提出众多的算法。共轭梯度法是较为有效的方法之一,它具有迭代形式简单、所需储存空间小等优点,所以被广泛关注与应用。本文对已有的非线性共轭梯度算法做了进一步的研究。首先,综述近年来优化算法的研究进展,分析经典共轭梯度法的优缺点。对近年来基于优化算法的一系列改进工作进行总结,归纳算法的改进思想。基于这些改进思想提出两种新的改进算法。HS共轭梯度法具有较好的数值表现但是收敛速度较慢,基于WYL和P-W共轭梯度法的改进思想,结合NLS-DY共轭梯度法的搜索方向,得到JLJH和H-M共轭梯度法。在Wolfe-Powell搜索准则下,算法充分下降,且全局收敛,数值实验验证算法的有效性。其次,结合几种经典共轭梯度法的优点,提出一种混合共轭梯度法。将数值效果佳的WYL与收敛性较好的FR共轭梯度法结合,选取合适的凸参数,得到NWF共轭梯度法。数值实验验证算法的稳定性和高效性。最后,将所设计的共轭梯度法应用于时间序列模型的参数估计中以验证算法的优越性。利用新算法解决ARMA模型的参数优化估计问题,得到JLJH-ARMA、NWF-ARMA以及H-M-ARMA模型。为验证模型的合理性与高效性,分别将新模型应用于实际模型的拟合和预测,数值实例进一步说明模型的优越性,进而说明新算法的可行性。