本文结合国家863科研计划项目“深空探测自主技术与仿真演示系统”(2004AA735080),对深空探测器姿态控制系统设计方法进行了研究。主要工作包括:建立了深空探测器的动力学模型,针对其星际巡航段分析了其环境干扰力矩的组成和特性,得出太阳光压力矩是其主要干扰力矩的结论。针对配置了典型测量敏感器的深空探测器,基于扩展Kalman滤波给出了其姿态确定的方法:针对星敏感器不可用情形,给出了使用太阳敏感器和速率陀螺定姿的滤波器算法;针对安全模式下的对地稳定定向情形,给出了太阳敏感器和高增益天线融合速率陀螺信息的定姿算法;针对正常巡航模式给出星敏感器和速率陀螺联合定姿算法。仿真表明,这些算法在满足条件时都能一定程度上实现对探测器姿态和陀螺漂移的估计。针对以喷气推力器作为执行机构的姿态控制系统,基于相平面分析方法,分别设计了PD、时间最优和燃料-时间混合最优控制律,在仿真中分别比较了这几种方法的特点和适用条件。针对以反作用飞轮作为执行机构的三轴稳定控制情形,研究了四元数反馈控制算法,给出PID控制器参数的设计,仿真结果验证了控制器设计是合理的。重点针对星敏感器和速率陀螺联合定姿算法、喷气bang-off-bang时间最优控制律算法、反作用飞轮四元数反馈稳态控制律算法分别设计了半物理仿真实验。姿态确定实验中引入星敏感器实物到控制回路中对陀螺数学模型中的漂移进行修正;姿态控制实验中先进行喷气大角度控制后用飞轮进行稳定控制。实验结果表明了这些算法满足设计的要求。