盲分离是信号处理中的研究热点,它在无线网络通信、音频信号处理、生物信号处理、脑电信号处理、以及图像处理中得到广泛的应用。因此,吸引了越来越多的科研工作者的注意。近二十年来,盲分离领域得到了快速的发展,取得了一系列的重大突破。但是,仍然存在许多有待解决的关键性问题,其中包括(1)欠定线性混叠模型下的源信号盲分离问题;(2)欠定卷积混叠模型下的混叠矩阵估计问题和源信号盲分离问题;(3)时频域算法中的尺度不确定性和排序歧义性问题:(4)源信号数目估计以及有效信道阶次检测问题。本文主要根据以上几个问题做出以下工作:首先,针对欠定线性混叠模型,我们提出了一种结合张量分解和非负矩阵分解的源信号盲分离算法。该算法先利用张量分解估计混叠矩阵,并利用源信号谱密度模型的非负矩阵分解估计得到源信号谱因子。然后,通过一系列循环迭代来更新模型参数。同时,利用估计的模型参数构造维纳滤波器对源信号的空间图像进行估计。以此得到频域上的源信号。最后,利用短时傅立叶变换的逆运算得到时域上的源信号。其次,针对欠定卷积混叠模型,我们利用张量因式分解模型的代数结构和期望最大化方法,提出了一种新的时频域算法。由于张量因式分解具有估计欠定卷积混叠情况下信号通道的优点,而期望最大化方法有助于更快地收敛到所需解,并具有更好的源分离性能。在该算法中,首先采用张量分解法估计混叠矩阵,然后采用置换对齐算法处理置换排序问题。然后,利用期望最大化方法对模型参数进行实时更新,以提高源分离性能。同时,利用估计的模型参数构造维纳滤波器,得到源信号的空间图像。最后,通过短时傅立叶变换的逆运算得到时域源信号。然后,在许多传统的盲分离算法中,源信号的估计都是在频域中进行的,容易出现尺度不确定性和排序歧义性问题,从而导致盲分离效果差。另外,在传统的期望最大化算法中,最关键的问题之一是在每个迭代步骤更新模型参数时是比较耗时的。因此,我们提出了一种改进的期望最大化算法。该算法将非负矩阵分解和时差估计相结合,通过合理选择期望最大化算法的初始值,避免了时间消耗,降低了计算复杂度。该算法利用非负矩阵分解源模型避免了排列模糊问题,通过对到达时差的估计进行转换,实现了声音源的定位。然后对模型参数进行更新,得到较好的分离效果。最后,使用维纳滤波器分离源信号。最后,源信号数目的估计是欠定卷积混叠盲分离中的一项重要任务,而且有效的信道阶次的检测也是一个极具挑战性的问题。为了解决这两个问题,经典的方法是基于信息论准则。然而,在欠定情况下,源信号的数目容易被低估或者高估。为了弥补这一不足,本文提出了两种基于高阶张量的信号数目估计算法。首先,提出了一种改进的源信号数目估计算法。通过将高阶张量展开成矩阵,计算矩阵的特征值,再利用所得矩阵的特征值来估计源信号数目。此外,我们还利用高阶累积张量来检测有效信道阶次,并得到卷积混叠模型中源信号数目与有效信道阶次之间的数学关系式。概括来说,本文主要研究了欠定线性混叠和欠定卷积混叠情况下的源信号盲分离问题。并对时频域算法中出现的尺度不确定性和排序歧义性问题进行了分析研究,提出了一种改进的时频域算法。最后,对源信号数目估计问题进行研究,确定了源信号数目与有效信道阶次之间的数学关系式。在论文的最后,对本文的研究创新点以及主要成果进行了阐述。同时,对未来的工作进行了展望。