航天器的轨道控制是其完成各项飞行任务的基础,在轨道控制中,通常采用能够产生三个方向推力的多推力器配置形式或者采用单个推力器通过航天器的姿态调整,实现轨道控制所需的三个方向的推力。在一些特殊情况下,如太阳帆、电动帆和磁帆等可简化为径向推力模型;对地观测航天器在轨道转移阶段仍保持对地定向时可考虑采用无径向推力模型,这些情况下推力通常只存在于特定的方向。传统的轨道控制方法较少考虑推力方向受到约束的情况,因此,本文针对特定推力方向约束下的航天器最优轨道控制问题,分别从相对运动和绝对运动的角度出发,对仅含径向推力、周向推力、周向和法向推力相结合这三种条件下的最优轨道控制问题展开研究:针对终端时间固定的径向连续推力最优轨道机动问题,通过坐标转换矩阵将追踪航天器的径向推力转换到目标航天器的LVLH坐标系下,得到了仅含径向推力的椭圆轨道非线性相对运动方程。针对该欠驱动系统,通过非线性系统的弱可控分析方法得出,系统的周向速度不是完全可控的。从而进一步忽略系统中的小量对该模型进行简化,得到了一个包含积分约束和初末状态约束的最优控制问题。针对该最优控制问题,基于正则变换和Hamilton-Jacobi理论,提出了一种包含一阶项和常数项的二阶生成函数形式,并推导了该生成函数满足的微分方程及其初始条件。该方法不需要初始猜测值,只需要计算一个常微分方程的初值问题便可得到原最优控制的解。此外,通过两个深空轨道机动任务的仿真表明,本文对非线性模型的简化以及基于该简化模型的生成函数求解方法,与伪谱法所得的最优性指标偏差较小,具有较高的求解精度。针对终端时间固定且推力在追踪航天器的周向和法向的最优轨道控制问题,建立了考虑J2摄动的状态依赖配点形式的非线性相对运动方程。考虑终端状态为零的轨道交会问题,基于SDRE方法得到了其最优反馈控制律,并给出了状态依赖Riccati微分方程的近似求解策略和数值求解策略。考虑终端状态不为零的编队重构问题,基于HJB方程扩展了SDRE方法,得到了Riccati微分方程与线性矩阵微分方程相结合的最优反馈控制律,并给出了其数值求解策略。相对于伪谱法等优化方法本文提出的方法不需要初始猜测值。此外,数值仿真表明,解析法对于近圆轨道具有较高的精度,数值法对即使偏心率达到0.3的椭圆轨道,其最优性偏差仍较小。针对仅有周向开关推力的大范围绝对运动下燃料最优轨道交会问题,采用极坐标形式的动力学方程,分别考虑终端时间固定且终端状态固定和终端时间自由且终端轨道为椭圆轨道两种约束情况,基于极大值原理和最优控制理论,推导了两种约束下的最优控制策略和两点边值问题及其边界条件。针对打靶法收敛困难的问题,一方面采用切换检测技术和变步长积分相结合的积分方法,提高了数值积分精度;另一方面采用状态转移矩阵和链式求导法,推导了打靶函数相对于打靶变量的解析偏导数。最后采用同伦法从能量最优控制逐渐同伦到燃料最优控制求解了原最优控制问题。仿真结果表明,本文方法对于随机的初始猜测值都具有很好的收敛效果,并且能够有效的求解多圈周向推力的“Bang-Bang”控制。针对无径向推力下终端时间给定的大范围燃料最优三维轨道交会问题,考虑周向和法向推力分别为独立的-1,0,+1开关形式,建立了球坐标系下的动力学方程。将最优交会问题转化为依次求解考虑质量不变的能量最优到燃料最优的同伦法和考虑质量变化的质量同伦法两个步骤。基于极大值原理和最优控制理论,分别推导了两个步骤下的最优控制策略,得到了对应的两点边值问题。提出了复杂切换下包含切换检测的变步长积分方法,推导了不同切换情况下打靶函数的解析偏导数,从而提高了打靶法的收敛性。仿真结果表明,本文方法能够有效求解多圈异面轨道转移问题,且对全为零的伴随变量初值具有较好的收敛性,避免了对伴随变量的初始猜测。