结构模态参数识别是结构损伤识别的基础性工作,同时也是结构健康监测系统中的重要环节。目前仅利用结构振动响应的运营模态识别方法受到广泛关注,其无需激励信息的优势在运营结构健康监测中具有重要价值。以盲源分离理论为基础的时频分析技术成为运营模态辨识的热门方法。但是现有的时频方法大多只能解决结构模态识别中的正定问题,无法处理实际工程中欠定盲源分离问题。为了改善这个难题,本文提出一种基于二次时频分布和智能聚类的结构模态参数识别方法,将时频分布矩阵的应用范围从正定盲模态识别问题拓展至欠定盲模态识别问题,并围绕时频面内去除多源时频点、结构中活跃模态数量确定以及窗函数参数选择等问题进行了研究。具体的研究内容和成果如下:（1）利用平滑伪维格纳分布构造时频分布矩阵提出了基于二次时频分析的欠定盲模态识别方法。首先计算结构振动响应信号的平滑伪维格纳分布,然后提出一种基于时频矩阵奇异值分解的阈值准则以去除时频面内多源时频点和噪声点,进而挑选仅含单阶模态信息的时频点。随后借助聚类算法识别结构的各阶振型。最后从重构的模态时频域中直接提取结构的模态频率和模态阻尼比。数值算例结果表明所提方法可以准确地识别结构的各阶振型、频率以及阻尼比,同时钢框架振动试验的实测数据分析结果证明了所提方法的有效性,不同识别方法的结果对比展现了所提方法的优越性。（2）针对基于盲源分离理论的结构模态参数识别方法中难以准确地识别活跃的模态数量这个难题,本文提出了一种确定振动模态阶数的方法,利用该方法无需预先假设结构中活跃的模态数量。首先利用本文提出的去除多源时频点准则筛选出单源点的时频分布矩阵;然后通过特征值分解提取所有单源点的主特征向量;随后引入峰值密度聚类算法,将主特征向量作为待聚类的数据集;最后将分析结果绘制成决策图,从决策图中自动地辨识结构中活跃的模态数量。数值算例分析表明所提方法即使在低信噪比的情况下,依然可以准确地识别结构中参与振动的模态阶数。（3）本文研究了当窗函数宽度不同时,振动响应信号的平滑伪维格纳分布的变化规律。首先从维格纳分布的交叉项出发阐述了时频平滑窗的作用;然后探究了不同时域窗宽和频域窗宽组合时,平稳振动响应信号和时变信号的时频分辨率变化情况以及单源时频点分布的变化情况;最后提出了一种基于熵测度确定振动响应信号时频分布最佳窗宽组合的方法。时变信号的盲源分离算例分析表明优化后的时域平滑窗可以增强时频面内时间分辨率,提高瞬时频率识别值的精度。