盲信号分离（Blind Signal Separation, BSS）技术是指在源信号和传输通道参数均未知的情况下，仅利用信号间的少量先验知识，由观测到的混合信号恢复出源信号的过程。盲信号分离在无线通讯、特征提取、图像处理、语音识别、信号抗干扰和生物医学信号处理等众多领域展现出广泛的应用前景，从而成为信号处理领域的研究热点。盲信号分离问题的有效求解方法有独立分量分析（Independent Component Analysis,ICA）、稀疏分量分析（Sparse Component Analysis, SCA）、非负矩阵分解（Nonnegative MatrixFactorization, NMF）等。ICA方法利用信号的独立性实现盲分离，经典ICA算法通常不适用于欠定盲信号分离，SCA方法利用信号的稀疏性实现盲分离，但对于非稀疏信号SCA方法性能不佳，NMF方法利用数据矩阵的非负性，实现信号分解，对分解信号的独立性和稀疏性没有要求，NMF方法引起人们的广泛关注。因此，本文主要研究基于NMF的线性瞬时混合盲信号分离。首先，本文从NMF算法的不同度量模式出发，研究了KL散度（Kullback-Leiblerdivergence）下NMF的盲信号分离算法。NMF数学模型的优化问题根据不同的误差测度，导致不同的目标函数，其中最常用和最简单的度量标准就是欧式距离下的优化模型，还有KL散度下的优化模型。本文研究提出了基于KL散度和三种不同约束准则的盲分离算法（KL—NMF）。仿真结果表明，KL—NMF算法比欧氏距离下NMF算法能够更准确的分离出源信号，提高了信号分离的质量。其次，研究了改进的基于增量非负矩阵分解（Incremental Nonnegative Matrix Factorization,INMF）的盲信号分离算法，INMF算法能够降低非负矩阵分解算法的存储空间和计算复杂度。一方面，本文利用INMF方法的目标函数，结合对混合矩阵的行列式约束以及对源信号矩阵的稀疏性约束和最小相关性约束，提高了INMF算法性能。另一方面，本文将投影约束应用于INMF算法，研究了投影约束的INMF算法（P-INMF），减少了需要更新的变量，非欠定盲信号分离的仿真结果证明，P-INMF算法能够有效的分离出源信号，同时大大降低了运算量。最后，研究了基于反馈非负矩阵分解（Feedback Nonnegative Matrix Factorization, FNMF）的盲信号分离问题。本文提出了引入反馈机制的非负矩阵分解算法，利用本次分离的源信号与混合信号之间的相关系数，去除分离出的最彻底的源信号，构成新的混合信号，进行下一次的盲分离，从而逐个得到所有的信号。仿真结果表明，与常规的约束NMF算法相比，FNMF算法能更好的分离出源信号。