盲源分离是仅通过接收信号来分离出潜在的混合源信号的信号处理技术,传统的盲源分离技术大部分是基于独立成分分析(ICA)理论。经典的ICA理论只能处理平稳的非高斯信号,而且对于欠定情况下(接收信号传感器数目少于潜在源信号)的盲分离也不能处理。而现实生活中很多信号都是非平稳信号,比如语音信号,所以找到除了ICA理论以外的其他途径的盲分离技术也是十分必要的。而基于稀疏类(稀疏在信号处理中一般表示一个信号的采样值大部分是接近于零的值,而只有少部分是大于零的数值)的盲源分离技术可以处理非平稳信号和欠定混合情况。稀疏这个条件有的时候对于现实中的信号来说有点苛刻,因为很多信号不是很稀疏(软稀疏)：比如现实中混合的语音信号在单个时频点存在多个源信号的情况很普遍。所以寻求软稀疏(不是很稀疏,表现在时频域的盲分离的情况是指单个时频点允许多个源信号共存的问题)的盲分离算法也是现实所需。本文就是研究在稀疏和软稀疏情况下的盲分离的问题,本论文主要取得了以下成果：1、在关于瞬时混合的欠定盲分离的混合矩阵估计方面,研究了针对在时频域的混合矩阵估计问题。基于时频域的混合矩阵估计关键是单源信号的时频点的抽取问题(抽取出那些只占用单个源信号的时频点)。本文基于Wigner-Ville时频域和短时傅里叶变换的时频域提出了一种叫做掩盖法的单时频点的选取方法,然后根据选取出的单源时频点再联合相关的聚类方法把混合矩阵估计出来。仿真结果表明,本文提出的基于掩盖法的混合矩阵估计效果比传统的时频域混合矩阵估计法在精度上有明显的提高。2、针对欠定卷积混合中的卷积滤波器的估计问题,研究了直接估计混合滤波器的方法。首先将时域卷积信号通过短时傅里叶变换转换到时频域,然后对时频域混合信号进行相关的归一化处理,进而导出了一种"bottom up"聚类法的归一化混合滤波器估计法。仿真实验表明,该方法比传统的不归一化的直接混合滤波器估计法在估计精度上有很大的提高。3、针对两步盲分离算法中的信号恢复问题,本文研究了源信号在软稀疏的情况下的信号恢复问题；在瞬时混合盲分离问题中,提出了一种截断混合矩阵求逆的源信号恢复法,该方法能够恢复出软稀疏混合情况下的源信号。该方法首先将混合矩阵有序的截断成一些方阵,然后将这些方阵的逆与原混合信号相乘并转换到时频域,然后利用原混合信号在时频域的稀疏性,在一定的条件下导出相关单源信号时频点,把所有单源信号时频点进行集合相加,最终抽取出估计源信号的时频点。本文还证明了截断混合矩阵求逆源信号恢复法允许多个源信号同时存在于单个时频点,单个时频点允许存在的源信号数是接收传感器的数减1(如果传感器数为M,那么单个时频点允许存在的源信号数为M-1)。同时该方法也适用于复数域混合矩阵的信号恢复。这里也把该算法同时应用于瞬时欠定混合盲分离和卷积欠定混合盲分离问题。实验证明了该方法的有效性,并且与传统的盲信号恢复法做了相关比较,证实分离性能得到了很大的改善。4、为了减少经典的截断混合矩阵求逆(ITMM)算法在个别时频会丢失数据或者产生噪声信号的概率,提出了一种基于频域的两步欠定瞬时盲分离算法。首先估计出混合矩阵和利用经典的ITMM算法对混合信号进行初步恢复,然后对初步估计的信号时频矩阵进行矩阵补偿处理,从而达到修补丢失数据和去除多余数据(去噪)的效果。实验仿真证明了联合信号恢复法在时频域的填补空缺值和去掉噪声信号效果明显,分离性能也比单纯的截断矩阵求逆法有明显提升。