在工程结构领域，识别结构的模态参数或物理参数意味着能够从结构的激励、响应信号或者响应信号的测最中提取结构的模态参数。在过去的几十年，都是基于实验室条件下的频率响应函数或传递函数进行模态识别，它要求同时测得结构受到的激励和响应信号。但是对于桥梁、高层建筑等的大型工程结构，由于种种原因，很难使用实验室中的方法识别结构模态。这就要求发展一种仅仅利用结构被测试的振动数据和部分输入数据的特征来识别结构的振动模态的方法，即环境激励识别方法。平稳环境激励情形下的处理相对来说要容易些。因此近些年来，关于环境激励下的模态识别方法主要是在平稳激励的基础上提出来的。主要方法有时间序列识别方法、随机减量技术、NExT法和随机子空间法等。本文首先针对这些方法分析了它们的特点和不足，为提出基于结构动力学模型的识别方法做准备。　　 由于非平稳环境激励的复杂性，人们对它们的了解很少，所以非平稳激励下的模态识别的方法研究起步较晚。到目前为止，主要集中在时域和时频分析两方面。近年来研究较多的时域方法主要有系统参数和输入的反演算法、基于时间序列的ARIMA模型以及时变参数的ARMA算法等。而时频表示方法主要有Cohen类的时频分布、短时Fourier变换、小波变换和Hilbert-Huang变换。本文在对这些方法概括的基础上，指出它们的适用范围以及优缺点。　　 在对以上传统方法分析研究的基础上，论文着重提出了非平稳环境激励下两种模态识别的新方法。一是基于连续结构动力学模型，利用随机过程的理论，提出了直接识别结构的物理参数的精确极大似然估计方法，即基于CAR或CARMA的参数识别方法。从对环境激励的认识程度，分别考虑了高斯随机激励和lévy随机激励下的模型。这种方法直接利用连续模型进行模态识别，无须把连续模型转化为离散时序模型，这从某种程度上保证了识别的精度；直接利用响应数据来识别模态，不像小波变换和HHT变换等，需要对响应利用随机减量技术和经验模态分解方法进行分解，然后才能估计模态参数，这点也从一定程度上减少了误差；该方法估计模态参数过程中，只涉及到积分运算和矩阵运算，因此计算量相对来说比较小。　　 另一种方法是在对小波识别模态参数进行分析的基础上，结合时变思想，提出了基于小波变换和协整理论的一种新的非平稳激励下系统模态参数识别的方法。该方法只是利用小波变换这个工具，把非平稳信号转化为平稳信号，然后通过平稳激励下的模态识别方法对非平稳激励下的系统进行模态识别。因此这种方法对小波函数的要求不是特别严格。　　 最后通过仿真计算，研究了高层框架结构的模态参数识别，验证了上述两种方法的有效性和算法的稳定性，并对影响识别精度的因素也进行了分析。