由于其广泛的应用背景，半定规划己成为数学规划领域中一个较为活跃的研究方向。近几年来半定规划的理论和算法取得了很大的进展。基于非线性Lagrangian方法的成熟，这种方法被尝试着推广到非凸半定规划中去，得到了很好的结果。 本文首先介绍了半定规划的基础知识，探讨了非凸半定规划的最优性条件，并对非凸半定规划的算法进行了研究。取得的主要结果包括： 1.第一章概述了非凸半定规划有关的基本知识，在已有的理论的基础上导出了含等式约束的一般非凸半定规划问题的一阶、二阶最优性条件，这是下两章的算法的理论分析所必备的，它为求解半定规划的Lagrangian算法奠定了理论基础。 2.第二章针对一般非凸半定规划问题，将已有的Lagrangian算法进行推广，给出一个增广Lagrangian算法。并探讨了它的一些性质，分析了算法收敛性，并建立了参数解的误差估计式。在适当条件下，当罚参数小于某一阀值时，算法产生的点列局部收敛到原问题的KKT点。数值算例也验证了算法的可行性和有效性。 3.第三章基于传统的Log-Sigmoid函数给出了一个非线性Log-Sigmoid乘子法，分析了算法的性质，并证明了在适当条件下，算法产生的点列Q-超线性收敛于原问题的KKT点。