本文研究了不确定性非线性系统的自适应鲁棒控制及其在飞行器姿态控制系统中的应用。 首先，本文介绍了非线性控制的几何基础。按照微分流形、向量场、李导数、分布这一顺序，由浅入深地简述了非线性系统微分几何控制理论赖以发展的最基本的数学基础。 其次，本文研究了非线性系统的鲁棒线性化问题。针对仿射非线性系统，给出了系统可精确线性化的充要条件；当考虑系统的不确定性时，给出了匹配条件和扩展匹配条件的微分几何表述形式；为解决具有不确定性的非线性系统的控制问题，提出了可线性化的非线性系统族概念，即鲁棒线性化的概念。 第三，在非线性系统鲁棒线性化研究的基础上，本文系统地研究了非线性系统的鲁棒稳定控制器设计问题。基于非线性系统的标准形，引入了零动力学的概念，由此得到了确定性非线性系统稳定的充分条件：然后研究了不确定性非线性系统的鲁棒稳定控制问题。当系统中存在有界干扰时，设计了鲁棒δ—稳定控制器。当系统模型存在定常不确定性时，就不确定性满足匹配条件和不满足匹配条件两种情形，给出了定常的鲁棒δ—稳定控制器的设计方案，又就不确定性满足匹配条件、扩展匹配条件和不满足匹配条件三种情形，设计了自适应鲁棒稳定控制器。当系统模型存在时变不确定性时，给出了一个递推形式的鲁棒稳定控制器的设计方案。 最后，应用所得到的理论成果，研究了飞行器姿态控制系统的鲁棒稳定设计问题。给出了一个飞行器姿态控制系统的部分状态鲁棒稳定的自适应控制器。仿真结果证实了所得理论结果的正确性。