日常生活中,振动现象无处不在,例如钟表的振动、机械设备的振动、光及声的波动和股市的振荡等.振动按其特性可分为线性振动和非线性振动.严格地讲,绝大多数振动系统都是非线性的.非线性振动和线性振动之间存在着许多本质的区别,比如在很多情况下,线性理论不能解释参数振动、超谐和亚谐共振和跃阶等复杂的振动现象,而只有利用非线性振动理论和方法才能解释.基于非线性振动系统的数学模型,在不同的参数和初始条件下,确定系统运动的定性特征和定量规律是非线性振动理论的研究目的.常用的非线性振动理论研究方法有：数值方法、几何方法和解析方法.而非线性微分方程尚无普遍的有效求解方法,很难得到精确的解析解.常用的解析方法是解析近似方法.解析方法的优点是不仅能确定非线性系统的运动随时间变化的规律,而且能得到运动特性与系统参数之间的依赖关系.本文中,我们将利用廖世俊教授提出的求解非线性微分方程的解析近似方法“同伦分析方法”来研究非线性周期振动系统.概括起来,同伦分析方法有如下优点：1)不依赖于小/大物理参数；2)在选择高阶形变方程的类型和解表达时具有很大的自由；3)引入非零收敛控制参数调节级数收敛.因此,同伦分析方法适用于各类强非线性微分方程.本文利用同伦分析方法研究了光滑和非光滑周期振动系统,主要内容如下：对于光滑周期振动系统如受迫Van der Pol-Duffing振子：首先,通过同伦分析方法获得了受迫Van der Pol-Duffing振子的稳定和不稳定周期解,而数值方法如4阶Runge-Kutta方法无法获得不稳定周期解,并利用Floquet稳定性分析理论分析了周期解的稳定性；其次,利用频谱分析和分岔理论验证了如上结论；再次,我们分析发现,在该组参数下,受迫Van der Pol-Duffing振子的频率响应特性曲线有两支解是不稳定的,所以受迫Van der Pol-Duffing在这组参数下不能出现跃阶现象；最后,在同伦分析方法的框架下,结合多尺度方法的思想,得到了受迫Van der Pol-Duffing振子在一定时间范围内收敛的周期解、倍周期解和拟周期解.同时提出可信赖时间Tc来度量拟周期解析近似解的有效时间.通过五组算例的同伦解析近似解与数值解的比较,验证了该算法的可行性和有效性.对于含绝对值项的非光滑周期振动系统,基于同伦分析方法,提出一种求解该类振动系统解析近似解的方法.该算法通过Fourier级数展开法,并结合迭代方法处理了非光滑项即绝对值项,这样避免了讨论绝对值正与负的复杂性.并利用该算法分别研究了此类振动系统大幅值下的周期解、无穷多极限环与参数激励下的亚谐共振.我们发现：平均法在求解自然频率ω0=0时失效；数值方法如4阶Runge-Kutta法无法求得无穷个且不稳定的极限环.而我们提出的解析方法可克服以上局限性.