旋转机械是指大型汽轮发电机组、水轮发电机组、核电机组、航空航天发动机、高速压缩机、离心机、离心泵和高精度机床等以转子系统为工作主体的机械设备，它们广泛地应用于电力、石化、冶金、机械、航空等各工业部门。大型旋转机械是一个复杂的多自由度非线性振动系统，常常由于出现各种不同形式的故障而影响其正常工作，有时甚至会发生由某些故障引发的严重的机毁人亡事故，并造成重大的经济损失。近些年来，由于旋转机械故障而引发的灾难性事故时有发生，为满足工程实际对故障诊断的需要，有必要对带有故障的旋转机械从动力学方面进行深入的研究探讨。 本文主要研究了基于Jeffcott等较简单的两端支承中间为集中质量的转子模型和复杂转子系统的碰摩故障。并且利用实验室中的现有设备做了相关实验。本文的主要工作表现在以下几个方面： (1)介绍了本文研究的目的和意义及非线性问题的研究方法，分别给出了集中质量转子和复杂转子系统非线性动力学的国内外研究现状。并且简单介绍了分岔和混沌的基本概念。 (2)介绍了现代接触力学的基本理论及求解接触问题的非线性有限元方法，给出了判断转静件碰摩的接触准则。 (3)分别建立了集中质量转子系统和复杂转子系统的力学模型和有限元模型，用非线性有限元方法研究了碰摩情况下转子系统的动力学特性，并考察了碰摩刚度、碰摩间隙等参数的影响。 (4)应用实验室的转子实验台、VSO采集测试分析系统和碰摩专用装置，分别做了单盘转子系统的单点碰摩故障实验和单盘转子系统的整周碰摩故障实验，通过实验数据得到了相关结论，并且进行了误差分析。