由于机械结构系统的复杂性，尤其是旋转机械，诸如齿轮、轴承、转子等与轴承座及箱体耦合后的界面接触刚度、界面能量损失和系统噪声消除等核心科学技术问题一直未很好解决，是导致机械系统早期故障低诊断成功率的主要原因。目前，如何快速、有效、准确地从强噪声环境中，分离机械早期故障特征的微弱信号是提高早期故障诊断成功率，解决关键技术装备安全运行与防止灾难性事故的核心关键所在，并已经成为机械运行状态监测和故障诊断领域中的关键共性基础问题。因此，开展强噪声环境下机械故障机理与早期故障信号特征提取的探索研究，具有重要的理论意义和实际工程价值。本论文主要围绕机械早期故障的机理及其振动耦合信号、故障特征非平稳信号的降噪理论与算法、基于进化论的自适应最优噪声抑制算法与早期故障特征提取等进行研究，并以齿轮动力传动系统为研究对象，通过模拟仿真和物理台架实验，验证了理论与算法的有效性和准确性。论文的主要工作有以下几个方面：①考虑齿轮轴孔和齿根裂纹扩展程度对齿轮啮合刚度的影响，提出了轮齿齿根裂纹扩展精确计算模型；建立了啮合力与裂纹扩展的映射关系，并基于能量法提出了轮齿裂纹扩展时的啮合刚度计算新方法；运用轮齿裂纹扩展的啮合刚度计算新方法，通过求解16自由度齿轮传动系统的动力学方程，获得了轮齿裂纹扩展的振动响应，分析了不同裂纹故障程度与其振动响应信号之间的关系，并获得振动响应信号的基本构成与特征，以此提出了机械故障振动信号的基本模型，为研究强噪声环境下早期故障特征的提取奠定了基础。②讨论了转速不同波动工况与相位累积误差之间的关系，并在转速波动可预估的条件下，基于特征频率估计算法提出了无时标变周期非平稳振动信号的时域同步平均算法，消除了转速变化对基于周期的时域同步平均算法的相位累计误差效应的影响，解决了转速可预估条件下的无时标采样因相位累积误差造成的提取齿轮早期故障信号特征困难的问题，为强噪声环境下获取齿轮传动系统早期故障提供了新的方法。③基于经验模式分解、动态时间规整和时域同步平均算法，通过时域截断信号之间的相似性估计，计算转速波动的每转相位差，提出了基于集合相位校正的无时标采样时域同步平均算法，解决了不能准确估计转速波动情况，难于通过频率估计抑制相位累计误差的问题。同时，经物理台架转速波动斜齿轮故障试验数据分析，验证了基于集合相位校正的无时标采样时域同步平均算法的有效性和准确性。④基于进化论规则提出了进化论自适应消噪算法，解决了自适应消噪算法如何根据参考信号实现全局最优化抑制噪声信号的问题。提出了峰值系数指标评价算法的降噪效果，解决了实际故障工况因故障引起的振动信号难以用信噪比来描述消噪效果的问题，分析了峰值系数指标与基于进化论自适应滤波参数(滤波时间、进化系数等)之间的关系；提出了收敛速度、峰值系数高度指标参数，解决了基于进化论规则的最优自适应滤波参数确定的问题；并经数字模拟仿真验证了进化论自适应消噪算法的消噪特性及其影响参数，为该算法在实际机械传动系统工况下的应用提供了理论依据。⑤提出了蜂窝式进化规则用于克服目前基于进化论规则自适应滤波器收敛速度慢的问题，并完成了蜂窝式进化论自适应消噪算法推导，实现全局最优噪声抑制的同时，提高了收敛速度；提出了进化论自适应消噪算法与小波降噪算法相耦合的增强型降噪滤波器算法，有效地提高了强噪声环境下机械微弱冲击性故障特征信号的提取能力。这两个算法的提出为实现进化论自适应消噪算法在复杂工况下机械传动系统的信号提取和故障诊断分析中的应用奠定了基础。