本文主要研究几类广义凸函数的性质及其在极值问题、对偶问题等数学规划问题中的一些应用和单调优化规划问题的凸化、凹化方法. 第一类广义凸函数是预不变拟凸函数和半严格预不变拟凸函数。广义凸函数在优化理论中有较广泛的应用,预不变拟凸函数是一类重要的广义凸函数,它是拟凸函数和不变凸函数的推广,因此对预不变拟凸函数的研究有较强的理论和实际意义。Yang证明了实值函数在下半连续和满足条件D的条件下预不变拟凸函数的充分必要条件。本文利用集合的(弱)近似凸性,在较弱的条件下获得了预不变拟凸函数的一些等价条件,即通过检查集合的闭性来判断函数的预不变拟凸性。Yang建立了预不变拟凸函数和半严格预不变拟凸函数的性质,本文减弱条件得到了半严格预不变拟凸函数的一个充分条件和其它基本性质。 本文研究的第二类广义凸函数是B预不变凸函数。Bector和Singh介绍了B凸函数的概念,Sujea介绍了B预不变凸函数,从而统一了B凸函数和预不变凸函数。本文讨论B预不变凸函数的另外一个充分条件和新的性质,进而得到了关于B预不变凸函数的非线性规划问题的充分最优性条件和“Mond-Weir”型弱强对偶结果。 (ν,F,ρ,θ)凸函数是本文考虑的第三类广义凸函数.近年来,多目标分式规划问题的最优性条件和对偶已被很多人所研究。Bector推导了不可微凸多目标分式规划的Fritz John和KKT必要充分最优条件,并建立了对偶理论。Produ介绍了(F,ρ)凸函数的概念,Liu得到了关于(F,ρ)凸函数的非光滑多目标分式规划的最优性条件和对偶。H.Kuk等定义了(ν,ρ)-不变凸函数,并证明了在(ν,ρ)-不变凸性的条件下非光滑多目标规划问题的广义KKT充分最优条件和弱强对偶