载人登月是一项技术含量高、复杂度大的系统工程，具有极高的风险性，保障航天员安全是载人登月工程的重中之重。因此，在总体设计中必须要对安全性因素做出考虑，如果飞船在飞行任务中出现紧急情况，首先要确保航天员能随时中止任务并返回地球。本文以考虑应急返回能力的载人登月轨道为研究对象，从应急约束条件分析、轨道建模与优化设计、轨道特性分析等方面进行了专题研究，主要成果如下：分析了载人登月轨道设计的应急条件，建立了满足应急条件约束的轨道优化设计模型。将载人登月轨道分为了若干阶段，研究了在各阶段发生故障后的任务中止方式，提出了考虑应急返回能力的轨道方案。针对受应急返回条件影响较大的地月转移段和月面着陆段，详细分析了应急返回对轨道设计所带来的约束，并通过选取合理的设计变量和优化目标，建立了满足应急返回条件约束的载人登月轨道优化模型，从而将轨道设计问题转化为一类优化问题。将解析法和数值法相结合，提出了一种从初步设计到高精度设计的串行轨道优化策略，设计了满足应急条件约束的地月转移轨道。研究了自由返回轨道、基于自由返回轨道的中途变轨、基于自由返回轨道的终端变轨三类轨道方案，并针对以上地月转移轨道，建立了基于圆锥曲线拼接法的解析模型和考虑摄动因素的数值模型。根据两种数学模型特点，引入优化算法，提出了一种从初步设计到高精度设计的串行优化策略，从而求解得到了满足应急条件约束的地月转移轨道参数。提出了基于Gauss伪谱法的月面着陆轨道快速优化设计方法。推导了月面软着陆的三维动力学方程，构造了考虑应急条件约束的月面着陆轨道优化设计模型。针对传统轨迹优化方法在初值选取、计算效率上的不足，提出了一种基于Gauss伪谱法的含初值生成器的快速轨迹优化策略，并对此方法的正确性、最优性和鲁棒性做出了验证。最后利用该优化策略，计算了满足约束的月面着陆轨道参数与控制参数。提出了Gauss伪谱法与直接打靶法相结合的混合优化策略，对月面应急上升交会轨道进行了联合优化设计。将应急上升交会轨道分为了应急上升段和应急交会段，建立了各段的轨道设计模型，分别采用Gauss伪谱法和差分进化算法对两段轨道进行了优化设计。进一步将两段轨道联合起来，构造了整个应急上升交会过程的优化设计模型，针对此多约束、多阶段的非线性联合优化问题，设计了将Gauss伪谱法和直接打靶法相结合的混合优化策略，求解得到了满足应急条件的上升交会轨道参数。论文研究充分结合载人登月安全性需求的应用背景，将优化设计方法应用于载人登月轨道设计中去，取得了较好的效果。并基于理论研究成果，详细分析了月面着陆区可达范围、能量消耗等关键轨道参数特性，可为我国未来载人登月任务规划和论证提供有价值的参考。