典型结构非线性振动的理论和实验研究，是非线性动力学重要组成部分之一。本文在悬臂梁耦合振动、高阶非线性项影响、非线性共振现象方面进行了探索，完成了如下三方面的工作。第一：悬臂梁弯扭、横纵耦合振动建模。考虑了弯曲角泰勒级数展开的高阶项，然后利用哈密顿原理得到悬臂梁结构非线性耦合振动控制方程，其中弯扭耦合模型还考虑了翘曲的影响。第二：五次非线性项对Duffing方程共振动力学行为的影响。利用多尺度法得到平均方程和分岔方程，利用奇异性理论对分岔风采进行分析，得到相应的转迁集以及对应的分岔图，理论结果与数值模拟结果吻合较好。五次非线性项对系统分岔行为有显著影响。当五次非线性项系数与立方非线性项系数同号时，忽略五次项不会有本质影响，频响曲线由两种类型；当二者反号时，五次非线性项会使系统出现另外3种类型的频响曲线，其影响必须考虑。第三：三层结构模型的内共振和组合共振实验。通过模态设计使得结构一、二阶模态频率之比接近1:3。经振动台水平基础激励实验发现：以一阶模态频率、二阶模态频率激励，都可激发出一、二阶模态间的内共振行为，同时给结构中还存在多种组合共振行为。为下一步非线性振动实验装置的改进奠定了基础。