非线性系统一般可通过多种微分方程描述.现实生活中，有许多实际的模型，如机械模型，生物系统模型等，所以研究此类系统有一定的实际意义.值得一提的是，非线性系统中经常会存在参数不确定性，时间延迟和随机扰动等，这就使得与之相关的控制问题更难以解决，因此研究这类系统的控制问题还具有一定的理论价值.受最近一些成果的启发和影响，本文主要针对三类非线性系统包括高阶非线性系统，非完整系统以及柔性关节机器人系统进行了研究.对于高阶非线性系统，分别考虑了具有参数不确定性的下三角系统和上三角系统的自适应控制问题，同时进一步将理论结果推广到时滞非线性系统的控制问题上.对于非完整系统，在系统具有时滞和复杂非线性增长条件下进一步研究了其输出反馈控制问题.对于柔性关节机器人系统，探讨了具有参数不确定性和随机扰动的系统的建模与自适应跟踪控制问题.本文的主要研究工作可分为五部分内容:　　一、本部分针对一类不确定非线性系统的全局状态反馈问题，提出了一种解耦自适应控制算法，也就是动态增益与自适应齐次占优相结合的方法.与传统的自适应反推法/调节函数方法相比，这种方法的主要不同在于参数估计的构造及非线性项的处理上.该方法允许系统控制律和自适应律经引入动态增益被分开设计，并通过适当地选择参数给出其形式.提出的自适应控制律可以保证闭环系统所有状态渐近收敛到零.给出的物理例子和数值例子均证明了理论的有效性.　　二、本部分针对一类具有未知增长条件的前馈非线性系统，基于动态增益方法提出了一种新的自适应控制策略.进一步设计了维数更低且不需参数估计的控制器，保证了闭环系统所有状态全局有界并且渐近收敛到原点.通过一个数值仿真例子验证了所提出方法的有效性.　　三、本部分针对一类具有时变时滞的非线性系统，研究了其全局自适应状态反馈镇定问题.通过运用动态增益与齐次占优技术，提出了三种新的自适应控制算法，设计了相应的具有显式结构的控制器.证明了闭环系统状态全局有界并且原系统状态渐近收敛到零.并进一步将上述算法成功地应用到高阶时滞非线性系统上.实际例子和数值例子验证所提理论的有效性.　　四、本部分针对一类时滞非完整系统，研究了其输出反馈镇定问题.本部分的一个显著特点或难点在于系统含有多项式非线性增长条件.运用输入-状态变换方法，齐次占优方法和Layapunov-Krasovskii理论，构造了一种新的输出反馈控制律，它可以保证系统状态渐近收敛到原点.仿真例子验证了所提方法的有效性.　　五、本部分针对一类受随机扰动的不确定柔性关节机器人系统，研究其建模与自适应跟踪控制问题.通过合理的引入随机噪声，建立了一个随机柔性机器人系统模型.在一些较弱的假设条件下，运用自适应动态面方法设计了一种新的控制器.可以证明，通过适当地选取控制器的参数可以使得均方跟踪误差任意小.最后，通过一个机械模型的仿真验证所提理论的有效性.