行星齿轮特殊的结构可以满足人们不同的需求,它广泛用于各个领域,不仅适用于高速、大功率的地方,也适用于低速、大转矩的机械传动中,尤其应用于机械传动系统中的增速器、减速器及变速装置,及各种航空机械和起重机械,其设计更是现代设计人员的重要任务。随着人们对设计要求的提高,逐渐将可靠性理论应用到行星齿轮设计中去。为了解决所选取随机设计参数取值的唯一性和设计指标的单一性及开发周期长的问题,将引入概率论的分布函数来描述设计参数的随机性和多目标函数来满足更多的设计要求。本文对使用常规设计方法的NGW行星齿轮,引入可靠度指数,对其进行现代优化设计,并对优化结果进行对比和分析；利用刚柔耦合多体动力学进行仿真分析,其齿轮动态啮合力曲线分析和行星架角速度曲线及柔性体行星齿轮应力云图验证了优化的合理性,为设计提供可靠的论据。根据可靠性理论和现代机械优化设计方法,将NGW行星齿轮传动的体积、重合度、效率作为目标函数,将可靠性系数引入疲劳强度约束条件,建立优化数学模型,把多目标函数转换成单目标函数进行优化计算；利用Pro/E软件建立参数化实体模型,进行装配；在ANSYS软件中将行星轮和内齿圈进行柔性化,生成模态中性文件；在ADAMS软件中替代对应的刚性体,并加载约束和载荷,对其进行刚柔耦合动力学分析,得出齿轮啮合力动态曲线和行星架输出角速度曲线及柔性体行星齿轮应力云图,为后续的接触应力变化情况及疲劳分析打下了基础。利用可靠性优化设计方法,较常规设计方法,体积减小了51.67%,重合度增加了2.29%,效率增加了0.11%,而优化后的齿轮仿真所得的动态平均啮合力大小分别与其理论分析值相近,且优化后的齿轮平均啮合力要比优化前的值要小,行星架角速度为599.6014°/s,即10.4650rad/s,与行星架理论角速度为10.4667rad/s,其值相近,并分析了内齿圈质心位移在实际啮合过程中的变化情况,及柔性体行星轮的应力分布情况,得出了应力云图,其应力值满足了设计材料屈服极限,这就为齿轮设计作了参考的依据。