本论文简要介绍了分形的定义及其发展,以及Mandelbrot集(简称M集)和Julia集(简称J集)的概念及两者的区别。利用理论推导和数值模拟相结合的方法研究了混沌控制中的相关问题,取得了如下成果:首先,对M集的内部精细结构的着色机制进行了研究。并将经典的M集推广到了实数阶,研究了实数阶M集的复动力分形特性,并且绘制了不同阶数的M集的图形。其次,分析了模极值算法、分解算法和Fisheye算法,并利用这三种算法构造了一系列M-J集,研究了广义M-J集的结构特征。结果发现:(1)模极值算法和分解算法均可构造出广义M-J集非边界区域的结构;(2)广义M-J集的非边界区域具有分形特征;(3)广义M-J集具有对称性,且演化过程依赖相角主值范围的选取;(4)利用Fisheye算法,既可观察广义M集的整体结构,也可给出广义M集某处的局部细节。再次,给出了四元数的运算及三角表示法。由Lyapunov指数或逃逸时间与周期点查找结合法,构造了一系列复平面上实数阶的广义M集和整数阶的四元数广义M集的二维切片;由模极值逃逸时间算法,构造了一系列整数阶四元数广义M-J集及整数阶广义M集的内部结构,研究了广义M-J集的结构特征。研究结果表明:(1)复平面上整数阶的广义M集的边界吸附着无数按一定规则排列的周期花瓣序列,这种结构在不同水平上嵌套出现,体现了自相似性;(2)四元数广义M集及其内部结构是以各周期点的中心为球心的层层嵌套的球体;(3)四元数广义M集及其内部结构关于坐标轴对称;(4)在立体空间中,各点的最小模极值的分布是有规律的,它们是以各周期的中心点为球心的同心球体,且按照红色,紫色,深绿,淡绿的顺序循环出现,呈现了一定的周期性。最后,分别利用单反馈,双反馈和交叉反馈方法研究了一类混沌系统的控制问题,并基于Lyapunov直接法和Routh-Hurwitz判据讨论了一类混沌系统的混沌轨道达到不稳定平衡点或极限环时的条件,同时给出了理论上的证明。数值模拟进一步验证了这两种方法的有效性。