为研究高速飞行薄壳的气动弹性非线性颤振响应,本文基于超音速气动力活塞理论和大变形几何非线性理论,建立了薄壳大挠度气动弹性颤振方程。采用微分求积法(DQM)对气动弹性方程进行离散,将DQM与模态缩减方法(NMs)相结合对系统进行降维,数值模拟了薄壳的非线性气动弹性响应情况。主要内容包括：(1)薄壳在蒙皮设计中存在多种形式,对各类结构形式分别进行气动颤振研究是非常繁琐的工作。选取圆柱形扁壳和完全截锥壳作为两类基本研究模型,将薄壳的气动弹性颤振问题归结为对这两类模型的气动弹性颤振问题的研究,建立了两类模型的大挠度气动弹性振动方程。(2)将微分求积法(DQM)引入到薄壳大挠度气动弹性颤振方程的离散化过程中。建立了几何非线性圆柱形扁壳气动弹性颤振方程的二维DQM离散格式及几何非线性完全截锥壳气动弹性颤振方程的一维DQM离散格式。(3)圆柱形扁壳气动弹性颤振问题,包括线性分析和非线性响应分析。在线性分析中,用特征值方法分析了结构系统的固有频率及气动弹性系统的颤振临界动压；讨论了不同网点数对计算精度的影响；讨论了不同曲率、不同长宽比、初应力对系统的颤振临界动压的影响。在非线性分析中,采用模态缩减方法对系统进行降维,通过数值积分着重研究了系统的模态截断问题及各类非线性响应现象与模态截断的联系。结果表明,极限环响应、概周期响应和混沌运动是圆柱形扁壳非线性响应的三种基本类型。讨论了不同曲率参数下产生极限环颤振的形态,讨论了曲率、初应力等参数对极限环颤振幅值的影响。研究了一类小周角、小曲率扁壳的气动叉式分岔行为；研究了特定动压下,以初应力为参数的分岔过程及通向混沌的途径。(4)完全截锥壳气动弹性颤振问题,包括线性分析和非线性响应分析。在线性分析中,用特征值方法分析了不同周向波数对应的系统固有频率及1-2阶模态耦合颤振临界动压；讨论了网点取值对计算精度的影响；讨论了不同顶角、径厚比及长径比时,系统的最小临界动压及对应周向波数；讨论了旋转角速度、初应力等参数对系统固有频率及颤振临界动压的影响。在非线性分析中,基于驻波颤振假设,结合线性模态缩减手段,研究了极限环颤振的幅值随动压的变化情况；研究了几何参数、初应力及旋转角速度对极限环幅值的影响。(5)完全圆柱壳和完全锥壳气动弹性颤振问题。作为截锥壳方程的特例,其气动弹性性质与完全截锥壳的非常类似。对完全圆柱壳气动弹性问题的研究,主要集中在边界条件、内压、轴压对颤振临界动压的影响以及极限环幅值的预测。由于完全锥壳在顶点的奇异性,采用近似方法求解了不同边界条件下的颤振临界动压,预测了驻波颤振极限环的幅值。