随着现代机组向着高参数、大容量方向发展以及高低位双轴布置等新技术的应用,机组在运行中容易出现一些无法预知的故障,转子系统能否高效稳定运行关乎着电厂的安全生产和经济效益,因此有必要对机组的工作状态进行监测以及开展故障诊断工作。本文从转子振动故障非平稳信号时频分析和故障诊断的角度出发,对转子系统运行中出现的几种典型故障的诊断和模式识别开展了深入研究,主要内容如下:首先,研究了集合经验模态分解(EEMD)信号时频分析方法,通过观察分析仿真信号IMF分量以及HHT分析,验证了添加了高斯白噪声的EEMD算法分解性能要优于EMD,同时也体现了EMD、EEMD存在的难以根除的模态混叠与端点效应缺陷。其次,研究了改进的固有时间尺度分解(ITD)、相关系数、奇异值分解(SVD)联合LSSVM的转子故障诊断方法。首先对于ITD波形失真问题,引入改进的ITD算法,仿真结果表明改进的ITD算法能够有效解决波形失真问题。然后采用相关系数法去除改进ITD算法分解PRC分量中的虚假分量,提取相关系数较大的有效分量的SVD特征向量值,输入最小二乘支持向量机(LSSVM)进行故障诊断,提高了故障诊断效率。最后在模化转子试验台上采集了转子不平衡、转子不对中、动静碰磨、油膜涡动四种故障的实验信号,应用上述方法对实测信号进行分析诊断,结果表明该方法能够有效地提取故障特征并进行有效识别。最后,研究了基于可变模式分解(VMD)、相对熵(Re)、云模型和优化LSSVM的转子故障诊断方法。首先使用改进果蝇优化算法对LSSVM超参数进行优化,提高了LSSVM的机器学习性能。利用相对熵来衡量各个分量与原信号的相似度,有效避免了过分解。选取相对熵值最小的分量采用逆向云发生器进行故障特征提取,然后输入优化LSSVM进行分类识别,对于汽轮机组状态在线监测与故障诊断来说,可以有效减少实时数据处理量。最后采用动静碰磨、油膜涡动实验信号对该方法进行验证,并与EMD-Re云模型、EEMD-Re云模型识别结果进行对比,结果表明VMD-Re云模型能够实现转子故障的准确诊断,且相比于EMD、EEMD诊断方法更具有优势。