近年来,随着无线通信产业的快速发展,无线电磁环境变得日益复杂,基于精确信道先验信息的传统信号处理方法将面临越来越大的挑战。盲源分离可以在没有或很少关于源信号和混合先验知识的前提下,从一组观测信号中恢复出原始信号,目前已成为信号处理领域一个新的研究方向,同时也是一个引人关注的应用热点。结合无线通信的发展需求,本文工作包括通信信号盲源分离算法研究和盲源分离在无线通信系统中的应用研究两大类,具体内容如下:　　 1.FastICA算法因其较快的收敛速度和稳定的收敛性能,是盲源分离技术应用最广泛的算法之一。为了确保每次分离出不同的源信号,算法采用的正交映射过程会一定程度上影响系统性能。针对该问题,提出一种多级快速独立分量分析(MSFICA)算法。算法的第一级用来获得一组分离向量的初始值,第二级利用该初始值和原始观测信号,可以无需正交映射而分离出不同源信号。同时,为了降低MSFICA的计算复杂度,提出一种维度不断降低(Dimension Decrease)的DD-FastICA算法作为第一级。理论和仿真分析表明所提MSFICA算法在增加少量计算复杂度的情况下,成功消除了串行FastICA算法的误差累积,并且比已有的消除误差累积的并行算法有更好的SINR性能和BER性能。　　 2.在移动通信中,常采用分集接收、合并处理来获得分集增益。借鉴于这一思想,在观测信号个数大于独立源个数的超定混合情况下,提出基于最大比合并(Maximum Ratio Combining)的超定盲源分离算法MRC-FastICA。该算法首先利用多组FastICA算法来获得同一信号的多个估计,然后利用MRC对这些估计进行合并以获得最终的估计信号。在信道参数未知的情况下,通过分析广义Rayleigh商问题最优解和基于四阶累积量代价函数收敛解之间的关系,提出一种盲MRC算法来进行最大比合并。理论分析和实验结果表明MRC-FastICA比已有算法有更好的SINR性能。　　 3.在盲源分离技术中,固定点迭代是一种重要的优化算法。然而,在复信号模型下,现有基于固定点迭代的算法大都受限于循环源假设,并且分离信号存在相位模糊性。为了解决这个问题,提出一个两级结构的固定点ICA算法(TS—FPICA)。算法的基本思想是利用包含在观测信号协方差矩阵中的循环系数信息,将复值信号模型转化为实信号模型,通过在新的信号模型下进行处理,避免了循环源假设和复信号固有的相位模糊问题。最后,将新信号模型下的ICA问题刻画为一个约束最优化问题,并利用固定点算法进行求解来恢复出原始复信号。仿真实验表明,所提算法能够适用于所有复信号,并且在不增加计算复杂度的情况下,消除了分离信号的任意相位模糊。　　 4.NDMA协议综合考虑网络层传输和物理层信号处理技术来解决冲突分解问题,取得了非常不错的效果。基于ICA的盲冲突分解协议ICA—NDMA克服了传统NDMA存在的一些缺点,但仍存在慢衰落信道下性能恶化、高业务负载时能量效率不高的问题。本文通过在ICA-NDMA中引入协同传输,提出一种新的盲冲突分解协议ICA-CoopNDMA。当冲突发生时,该协议在每个重传时隙用单个中继节点转发碰撞分组来代替所有冲突节点重传源分组,减少了整个网络的能量消耗；通过在不同重传时隙使用不同的中继节点,可以获得空间分集增益,从而抵抗信道慢衰落对协议性能的影响。为了探测冲突节点数进而确定冲突分解周期,提出基于最小描述长度(MDL)的协同盲探测算法,可以在不影响探测精度的前提下节省一个探测时隙。理论分析和仿真结果表明,与ICA-NDMA协议相比,ICA-CoopNDMA在慢衰落信道下仍然有效,平均分组时延性能和高业务负载时的能量效率更优。　　 5.在无线通信系统中,通常可以对分配的频谱资源进行有效复用来提高系统容量,但频谱复用会增加系统的共道干扰,因此容量就取决于系统的干扰抑制能力。本文考虑采用空间复用和盲源分离技术来进行无线通信系统的共道干扰抑制(CCIS)。针对ICA的顺序模糊性带来期望信号无法识别的问题,提出两种解决方法:一是基于相位预编码(PP)的PP-ICA-CCIS算法,该算法在发射端对期望信号相位进行预编码,在接收端利用对应的编码序列从分离信号中识别出期望信号。二是提出了先识别后分离的算法结构和通信协议辅助的半盲共道干扰抑制算法PA-SBCCIS(Protocol-AidedSemi-Blind CCIS)。该算法无需分离出所有信号,直接提取出期望信号,因而节省了大量的计算开销。最后通过仿真实验对所提算法进行了性能验证。