混沌现象和混沌系统广泛存在于物理、工程、生物和金融等领域。基于分数阶微微积分理论对复杂系统进行建模能够更加精确地反映系统的动态特性。分数阶混沌系统既具有混沌系统的所有特征,又具有分数阶系统的复杂性,可广泛应用于混沌保密通信领域,因此,对于分数阶混沌动态系统的控制和同步具有十分重要的理论和应用价值。本文结合分数阶微积分理论和混沌系统自身特性,利用分数阶非线性系统稳定性定理及性质,对分数阶混沌动态系统的稳定性、控制和同步等问题进行研究。主要内容如下：介绍了分数阶微积分算子及分数阶微分方程的相关定义和性质等基础理论。讨论了分数阶线性系统、非线性系统的稳定性理论。对分数阶混沌系统的动态特性、稳定性理论、控制方法及系统仿真方法等问题进行了系统地阐述。基于分数阶微积分算子理论,通过引入分数阶反馈控制器,得到与之对应的整数阶系统,设计整数阶滑模控制器,实现分数阶混沌动态系统的渐近稳定。从系统能量角度出发,将无源性理论引入分数阶系统,提出分数阶无源控制器设计方法。对具有未知参数的分数阶混沌系统,基于最速下降法,设计参数辨识律,实现不确定系统的参数辨识及混沌同步控制。将整数阶系统的滑模控制方法推广到分数阶系统,设计分数阶积分滑模面和分数阶趋近律,实现对含有参数扰动和模型误差的混沌系统渐近稳定控制。基于分数阶李亚普诺夫理论,引入分数阶状态变量,对含有未知参数和外部扰动的分数阶混沌系统设计自适应控制律,实现混沌同步。对下三角形分数阶混沌系统,利用分数阶反推设计方法,对不确定分数阶混沌系统设计自适应控制器,提出分数阶参数估计更新律,基于分数阶稳定性定理对系统稳定性进行分析,实现混沌控制与同步。将经典整数阶系统动态面设计,推广到分数阶系统,提出分数阶动态面控制设计方法,通过引入分数阶滤波器,简化控制器的设计过程,利用分数阶微分方程比较定理及分数阶李亚普诺夫稳定性定理讨论闭环系统稳定性,实现不确定分数阶混沌系统的渐近稳定控制。