很多重要的优化问题都是不可微函数表述的.方向可微函数是一类重要的不可微函数类,这类函数的微分性质的研究也是大家一直关注的问题.本论文首先建立了星形集空间理论,在此基础上引入了一类新的不可微函数-星形可微函数,讨论了星形可微函数的微分性质以及星形可微函数的最优化问题的最优性条件.本论文所取得的主要研究结果可概述如下：1.第二章提出了星形集空间的概念,研究了星形集空间的性质,引入了偏序（?）,逆和（?）和逆数乘（?）运算,满足消去律,使星形集空间成为赋范Riesz空间及拓扑向量格.证明了非负正齐次连续函数空间与星形集空间同构,通过同构映射在该空间引入相应的偏序（?）,逆和（?）和逆数乘（?）运算,也满足消去律,从而使非负正齐次连续函数空间也成为赋范Riesz空间及拓扑向量格.2.第三章基于星形集空间的理论在方向可微类函数中定义了一类新的不可微函数-星形可微函数,这类函数是方向可微的,其方向导数可以表示成两个正齐次非负连续函数之差,它的微分称为星形微分,是一星形集对.我们给出例子说明星形可微函数比Demyanov与Rubinov （1986）意义下的拟可微函数类更广泛,同时建立四则运算以及复合函数的星形微分,逐点极大值和极小值函数的星形微分公式,以及星形可微函数的中值定理.3.第四章讨论了星形可微函数的最优性条件.首先,给出了用星形微分描述的星形函数无约束优化问题最优解的最优性条件,包括必要条件和充分条件.其次,讨论了不等式星形函数优化问题最优解的最优性条件,包括用星形微分刻画的最优性必要条件；基于约束集合正则性的概念的最优性必要条件;以及借助于星形微分的性质,给出一个Fritz-John形式的最优解的必要性条件.最后,用罚函数的方法给出星形可微函数等式约束问题最优解的必要条件.