齿轮箱是机械传动中常见的部件,由于其结构复杂,容易受到润滑、温度等因素的影响,在长时间高速重载运转时,十分容易产生故障,然而在故障早期很难及时发现故障,如果不能尽早进行维修,久而久之必定会对整台设备甚至工作人员造成伤害,因此对机械设备进行状态监测,判断故障类型和位置,保证机械的安全、稳定运行,具有十分重要的现实意义。本文以齿轮箱为主要研究对象,提出了基于参数优化的变分模态分解（VMD）与卷积神经网络（CNN）的齿轮箱故障诊断方法,重点对齿轮箱振动信号的降噪、故障特征提取以及故障模式识别方面进行了研究。首先,介绍了齿轮箱故障诊断的研究背景和意义,对齿轮箱常见的故障及其振动特性进行了介绍,重点提出了基于参数优化变分模态分解的降噪方法,通过仿真信号和实验信号先后验证了VMD的分解效果,并与EMD、EEMD分解做了对比,最后以峭度为指标,选取有效分量进行重构,并通过包络谱分析,证明了VMD在齿轮箱故障信号降噪中的优越性。其次,提出基于广义复合多尺度排列熵（GCMPE）与参数优化支持向量机（SVM）的齿轮箱故障分类方法。针对排列熵和多尺度排列熵不能全面提取故障特征信息的不足,在多尺度排列熵的基础上,改进粗粒化过程得到GCMPE,以此作为故障信息特征向量,输入到免疫粒子群优化的SVM中,进行故障模式识别,经实验验证,该方法能有效的进行故障模式识别,但是支持向量机在齿轮箱故障模式识别中存在着分类前需要进行故障特征信息提取的不足。最后,提出了基于参数优化VMD与CNN的齿轮箱故障分类方法。卷积神经网络弥补了SVM需要提取特征信息的不足,由于其本身强大的计算和特征提取能力,可以对振动信号直接进行处理,本文介绍了卷积神经网络的组成、反向传播、算法优化等理论基础,随后对卷积神经网络模型的参数进行了设定,制定了VMD-CNN的实验流程,最后将VMD-CNN、SVM、CNN、EMD-CNN、EEMD-CNN五种模型做了对比,结果表明,本文方法具有更高的准确率。