随着无线数字通信技术的迅猛发展以及通信用户业务需求的大幅增长,未来的通信系统被寄予期望具有更快的数据传输速率、更准确的通信可靠性以及更高的频谱利用率。然而,由于无线电波的多径传播以及无线信道传输带宽受限等原因引起的接收端符号间干扰问题,不仅降低了无线系统的传输可靠性,而且还限制了无线系统的传输速率。因此,作为对抗符号间干扰的有效手段,信道均衡技术一直是无线数字通信系统接收环节中举足轻重的一项研究内容。数据辅助信道均衡方案借助于训练序列获取信道响应,然后据此调整均衡器的抽头系数以补偿非理想的信道特性。但是训练序列的发送会造成部分频谱资源的浪费,同时在非合作通信场景中,训练序列是不可用的。因此,无需使用训练序列而仅仅利用信号自身先验信息以恢复发送信号的盲均衡技术应运而生。通常大多数的数据辅助均衡方案和盲均衡方案都是利用高斯分布来建模信道噪声,然而实际中的环境噪声往往是服从于alpha稳定分布的脉冲噪声,因此研究脉冲噪声环境下的信道均衡技术具有重要的实用意义。本文主要针对正交幅度调制系统中,数据辅助信道均衡技术和盲均衡技术在复杂噪声环境下(包括高斯噪声与脉冲噪声)性能下降的问题展开研究,具体工作如下:1.针对传统的最小二乘均衡方案在脉冲噪声环境下性能恶化的问题,提出了一种基于最小二乘思想的非线性加权自适应信道均衡方案。此方案可以有效地对抗非高斯噪声的脉冲性,拥有稳健的均衡性能。具体地,首先分析了脉冲噪声造成最小二乘均衡算法性能恶化的原因是误差准则有误;其次,利用负指数操作对均衡器的输出误差进行非线性加权得到新的误差准则,基于此误差准则的新均衡方案能够根据噪声分量的大小自适应地调整均衡器的迭代过程,从而抑制了大噪声分量对均衡性能的影响。理论分析和仿真结果表明,所提均衡方案在单输入单输出和多输入多输出系统中均拥有稳健的均衡性能。2.针对传统的多模盲均衡算法在脉冲噪声的干扰下性能骤降甚至均衡失败的问题,提出了一种稳健的自适应盲均衡方案。首先,分析了多模算法代价函数中对于高阶统计量的使用放大了均衡器输出误差的影响,导致其在alpha稳定分布噪声干扰下的失调。因此,所提方案引入了一个自适应权重系数以抑制噪声脉冲性对于均衡算法收敛过程的负面影响。一方面,通过权重系数的调节使得所提盲均衡方案对于噪声干扰具有自适应的能力,即盲均衡器仅仅根据受到小噪声干扰的样本更新自身权值向量,而在接收样本被大噪声污染时停止更新。另一方面,由于所提算法具有避免大输出误差引起失调的能力,因此可以相对地增大迭代步长以缓解最小均方误差类算法收敛速度慢的问题。理论分析和仿真实验验证了所提算法的稳健性和快速收敛性。3.针对高斯噪声环境下经典的恒模算法应用于高阶正交幅度调制系统均衡时性能下降的问题,以及脉冲噪声环境下现有的盲均衡算法均衡失败的问题,提出一种高阶正交幅度调制系统中基于信号恒模特性的二进制恒模算法。此方案揭示了恒模算法代价函数设计过程中的缺陷,解决了复杂噪声环境下高阶正交幅度调制信号的均衡问题。具体来说,首先,分析了高斯噪声环境下,恒模算法具有的额外误差以及稳态误差是导致其应用于高阶正交幅度调制信号均衡时出现性能下降的原因。其中,众所周知的在算法稳态时由于迭代公式梯度不为零导致的误差被称为稳态误差,此外,由于恒模算法在计算色散常数时所做的理想性假设而引入的误差,本文称作额外误差。其次,基于正交幅度调制信号的恒定模值性质,借助于星座图的固有特征构造了新的代价函数及相应的迭代公式,从而消除了额外误差和稳态误差对均衡性能的影响。理论分析和仿真结果表明,虽然所提方案中对接收样本进行的筛选操作导致样本利用率降低,但是明显提升了均衡性能。最后,在alpha稳定分布噪声环境下,由于所提算法通过判决门限可以过滤掉被脉冲噪声中大噪声分量污染的样本,因此其能够有效地抑制噪声脉冲性的影响,从而能避免了盲均衡算法迭代过程的失调。