利用多颗小卫星组成编队来实现单颗大卫星的卫星编队飞行技术逐渐得到广泛的应用。在编队飞行中，如何良好地控制卫星的轨道和姿态关系到任务的成败，是卫星编队飞行研究的热点之一。本文以卫星编队飞行姿态控制为研究对象，基于四元数法推导出了主从式结构下编队卫星之间相对姿态动力学模型，并据此提出了如下三种控制方法：1)对系统模型参数精确已知及不考虑系统所受干扰的理想情况，借鉴机器人系统控制中的逆动力学控制，提出了一种基于系统模型的非线性比例-微分加系统模型(NP-D+)的控制方法，在控制律设计中引入了一类功能函数，使得系统在控制律的作用下既可以达到全局渐近稳定，又获得了更好的控制品质。2)针对存在有界不确定扰动的系统，提出了有限时间稳定的双幂次滑模控制方法，该控制律的双幂次函数使系统无论在远离滑模面还是趋近滑模面时，均具良好的收敛性能。理论分析表明，在有界不确定扰动存在的情况下，该控制方法可以使系统在有限时间内收敛到系统稳定平衡点的有界邻域内；仿真结果显示该控制方法进一步缩短了系统的稳定时间。3)针对卫星在飞行过程中转动惯量发生改变而又无法精确测量的情况，提出了状态反馈非线性自适应控制方法。应用Lyapunov直接方法以及Barbalat引理证明了该控制律可使系统达到全局渐近稳定，仿真结果证明该方法有着较好的控制品质。