在信号处理领域,线性自适应滤波器因其结构简单、容易分析和实现而得到广泛应用。但在高速通信信道、卫星链路、回声对消等存在非线性干扰的场合,线性自适应滤波器的性能很差,这是因为线性自适应滤波器本质上的线性特点,限制了它们利用非线性信号的高阶冗余性的能力和逼近非线性函数的能力。在求解非线性问题时,近年来人们已建立了多种非线性自适应滤波方法,如神经网络方法、同态滤波、形态滤波、Volterra滤波等,被广泛应用于系统辨识、混沌预测、图像处理和扩频通信等领域。研究表明:非线性自适应滤波器性能明显优于线性自适应滤波器。而Volterra级数是一种泛函数,在满足输入信号能量有限的条件下,大多数非线性系统都可以用Volterra级数逼近到任意准确的程度。又因为基于Volterra级数展开式的非线性滤波器的输出仍是其展开式核的线性组合,只要获得Volterra核就足以确定系统对任何输入激励的响应,其滤波性能易于分析。本文主要研究Volterra自适应滤波算法,包括高斯噪声背景下Volterra自适应滤波算法、α稳定分布背景下Volterra自适应滤波算法和Volterra自适应滤波算法在噪声对消中的应用。首先,介绍了Volterra滤波器的基础理论,它是全文研究工作的基础。其次,研究了高斯噪声背景下Volterra滤波器自适应算法。为了提高高斯噪声背景下基于最小均方误差(MMSE)准则的时域Volterra自适应滤波经典算法的收敛速度和稳态性能,本文利用两种信号预处理方法。本文首先提出了变步长解相关Volterra滤波算法(VSDVLMS),将传统算法的固定步长用变步长代替,同时对输入相关信号解相关,从而改善了算法稳态性能,提高了算法收敛速度;然后,本文提出了基于格型预处理的VLMS算法(LPVLMS),该算法利用格型滤波器预处理输入信号即进行格型正交解耦,明显改善了收敛性能。然后,研究了α稳定分布噪声背景下Volterra滤波器的自适应算法。由于Volterra系统的非线性,在α稳定分布背景下,使信号脉冲特性更加显著,致使自适应算法收敛性能变差。为了解决Volterra级数线性项和非线性项收敛不一致的问题,采用基于分数低阶统计量(FLOS)的最小分散系数(MD)准则,本文也是从两个方面着手研究。一方面,对于二阶Volterra级数的线性项部分和非线性部分,分别采用两个不同的收敛因子,提出了分阶Volterra自适应滤波算法,理论上证明了算法的收敛性。另一方面是从Volterra滤波器结构出发,提出了全解耦的VLMP算法,对于二阶Volterra滤波器来说,在二阶Volterra子系统满足MD准则的条件下使一阶子系统再满足MD准则的约束优化,这样就避免了各阶非线性因素之间的较强耦合。仿真结果表明,这两种算法都比传统Volterra最小平均P范数算法收敛速度快,稳态失调小。分阶Volterra自适应滤波算法计算简单,而全解耦Volterra自适应滤波算法结构巧妙,收敛速度更快。最后,为了进一步改善非线性噪声对消的性能,本文研究了两种Volterra自适应噪声对消器。利用Lyapunov稳定性理论重构误差性能曲面,提出了一种基于Lyapunov稳定性理论的Volterra自适应噪声对消算法,它显著改善了收敛性能,提高了收敛精度。本文还从降低算法复杂度的角度出发,提出了一种改进的Volterra自适应噪声对消算法,为防止算法收敛不稳定,用非线性函数限制乘积耦合项的影响,该算法避免了非线性函数求导运算,算法简单且性能比文献[61]中的算法好。