盲源分离(Blind Source Separation,BSS)是指在源信号、传输通道特性未知的情形下,只根据观测信号和源信号的一些先验知识分离出源信号的过程。盲源分离因其强大的信息处理能力而被广泛应用于生物医学系统、语音、图像处理等领域。而观测信号个数小于源信号个数的欠定盲源分离模型更具有一般性,也更具有研究意义。根据源信号的稀疏特性,采用基于稀疏分量分析(Sparse Component Analysis,SCA)的“两步法”成为当前解决欠定盲源分离问题的主流方法。第一步,对观测信号采用聚类方法来获得混合矩阵的估计;第二步,根据估计混合矩阵分离提取出源信号。本文在对国内外研究现状深入分析的基础之上,研究了瞬时线性混合欠定盲源分离模型混合矩阵的估计方法。本文主要工作和创新点如下:首先,提出了基于改进蜂群算法的混合矩阵估计方法。为了平衡人工蜂群(Artificial Bee Colony,ABC)算法的种群多样性和收敛速度,本文根据观测信号的线性聚类特点,对ABC算法中的雇佣蜂采用了确定和随机相结合的搜索策略;针对ABC算法开发能力的不足,本文引入基于Levy飞行的局部搜索策略,进一步搜索当前最优解的邻域,从而增强ABC算法的局部开发能力。实验仿真与分析表明,基于改进ABC的混合矩阵估计方法明显提高了混合矩阵估计的精度。同时,对于源信号个数相对传感器数目较多时仍然有比较好的估计性能,且对初值是不敏感的。其次,提出了基于DBSCAN(Density Based Spatial Clustering of Applications with Noise)和密度峰值搜索的混合矩阵估计方法。针对传统聚类方法需要预先设定聚类数目的缺点,本文提出采用DBSCAN方法实现自动分类得到源信号数目的估计,同时得到混合矩阵的初步估计。但该算法只是对每类数据取均值得到聚类中心,所以本文选择通过密度峰值聚类方法来修正聚类中心。与此同时,DBSCAN算法也可以克服密度峰值聚类方法需要人为干预的不足。通过实验仿真与分析,表明本文算法能同时得到源信号数目和估计混合矩阵,且估计精度高于K-means算法、分层聚类算法与DBSCAN算法。