变分不等式问题是应用数学领域中一个十分重要的研究方向,被广泛用于研究经济学、工程科学和交通运输中的各种平衡模型。许多优化问题都可以转化为变分不等式来求解。因此,变分不等式问题的算法研究具有重要的理论意义和实用价值。　　 无约束优化问题是最优化问题的一个主要分支,而约束优化问题的子问题可以转化为无约束优化问题。特别地,变分不等式问题在一定条件下也可转化为无约束问题来求解。近几年来,无约束优化问题的理论发展比较成熟,解决此问题的方法众多。其中,共轭梯度法是一种非常有效的方法,在二十世纪六七十年代成为人们研究的热点。随着实际问题中大规模问题的涌现,共轭梯度法的研究再次成为人们关注的热点课题。　　 本文主要研究变分不等式与无约束优化问题的算法,主要工作如下:　　 1.给出了求解变分不等式的特例一互补问题的光滑牛顿算法。由于光滑函数在求解互补问题的光滑算法中起着非常重要的作用,所以给出了一个新的光滑函数,并研究了该光滑函数的一些性质。基于此光滑函数,将非线性互补问题转化为一个光滑方程组进行求解,并给出了一种求解非线性互补问题的光滑牛顿型算法。所给出的算法对初始点没有严格的限制,每步迭代只需求解一个线性方程组,执行一次线搜索。在一定的假设下,证明了算法所产生的序列是全局收敛的,并且在不需要严格互补条件的情况下,该算法二次收敛于互补问题的最优解。　　 2.给出了求解变分不等式问题的非精确光滑牛顿法。针对光滑算法求解线性子问题的精确解的困难,提出了求其非精确解的方法,从而减少计算量。基于光滑牛顿法的思想和半光滑的理论,利用光滑函数将变分不等式问题转化为光滑非线性方程组进行近似求解,提出了求解变分不等式问题的非精确光滑牛顿法。数值结果表明算法是可行、有效的。　　 3.提出了一种求解变分不等式的投影法。由于投影法每步迭代的计算量很小,很适合用于求解大规模问题。在每一步,投影法只需要做一些到可行集的投影及一些函数的计算。通过改进步长和搜索方向,给出了一种新的投影型算法,而且该算法可以保证每步迭代的步长大于某一常数。在映射为伪单调的条件下,证明了算法是全局收敛的。数值实验证了算法的可行性与有效性。　　 4.提出了两种改进的非线性共轭梯度型方法求解大规模无约束优化问题。改进的方法具有充分下降性。这一性质不依赖于所采用的线性搜索和函数的凸性。而且,改进的方法在Wolfe条件下是全局收敛的。数值实验验证了算法的有效性,非常适合于大规模问题。