互补问题自1963年首次提出以来便得到了广大研究者的重视,一直是数学规划研究中较为活跃的分支.由于其应用背景的广泛性,近年来越来越多的研究者投入对互补问题的研究并取得了丰硕的成果.对互补问题的研究可以分为理论和算法.前者主要研究问题的解的存在性,唯一性,稳定性以及灵敏度分析等性质.后者集中研究如何构造有效的算法及理论分析.本文皆在研究求解互补问题的数值算法.　　文中第一章概述了互补问题和变分不等式的研究背景,相互关系,以及近几十来其主要的研究算法;第二,三,四章建立了求解混合互补问题的几个算法及其收敛性分析.鉴于光滑函数在解决互补问题的光滑类算法中的重要性,第二章通过光滑化扰动的mid函数,构造了一个新的光滑MCP函数,并在此基础上建立了求解混合互补问题的Broyden-Iike算法.虽然非线性互补问题是混合互补问题的特例,但是鉴于两者在算法设计和理论分析上有很大的不同,人们一般予以区别对待.因此第三章在第二章所构造的光滑函数基础上,把Huang Z.-H., Han J.-Y., Chen Z.在文献中所提到的求解非线性互补问题的预测-校正光滑类算法进一步推广到混合互补问题中.第四章则提出了求解混合互补问题的Lagrangian Globalization算法(简记为LG算法),并去掉了对抛Orfc)T中 H k的选取限制,以及所要求的严格互补条件成立的假设.第五章给出了求解非线性互补问题的光滑Levenberg-Marquardt方法.利用一类含参数的目标函数二次连续可微的优化问题来逼近非线性互补问题(NCP)的解.最后一章是对本文的总结和对将来研究工作的展望。