深空探索是当今人类研究的热点之一,航天器从地面发射进入太空,完成任务后,从外太空进入大气层并安全精准的落回地球表面。轨迹优化是航天器前期方案设计阶段中最重要的一环,近地航天器在距离地面110km处以7.8km/s的速度进入大气层,期间过载过高,热流过大会导致航天器损坏,因此轨迹优化环节决定了航天器能否安全返回地面。本文以近地航天器再入为背景,针对航天器轨迹优化问题展开了研究,主要进行了以下几个方面的研究:首先给出了航天器运动学模型及航天器在再入过程中的约束条件。基于航天器平面运动方程,分析了不同的升阻比、再入角及再入速度对航天器再入轨迹的影响。基于十进制蚁群算法对航天器跳入再入轨迹进行了优化设计。针对传统轨迹优化方法对初值敏感的问题,将十进制蚁群算法应用于轨迹优化中。给出了过载约束下的航天器再入轨迹优化的数学模型,对模型进行归一化及离散化处理,将连续的轨迹优化问题变为参数优化问题,应用十进制蚁群算法得到了最优的升力系数解。仿真结果验证了该方法的有效性。基于粒子群蚁群混合算法对航天器跳入再入轨迹进行了优化设计。针对十进制蚁群算法容易陷入局部极值问题,以及十进制蚁群算法对Rh₀、Q和K依赖较大且难以获得的问题,对十进制蚁群算法进行了改进,将粒子群算法和蚁群算法结合,通过对连续空间的自适应搜索来完成参数的选定,仿真结果表明采用粒子群蚁群混合算法可以快速的得到参数Rh₀、Q和K的值,能有效的跳出局部最优,得到最优的升力系数解。