线性系统的计算能力是有限的,通常,现实世界复杂的应用涉及更多的是非线性关系。核方法是将一个线性系统扩展到非线性应用领域的有力工具,最近,核方法已被越来越多地应用于非线性自适应滤波器的设计上。然而,相比于完善的线性自适应滤波器体系,核非线性自适应滤波器还存在很多需要发展的方面,例如算法对不同环境噪声的处理能力、算法收敛速度的提高。本论文针对核非线性自适应滤波器的设计问题从这两个方面进行了研究。首先,对于更一般的噪声环境,在线性自适应滤波算法中,最小平均混合范数(LMMN)算法被证实当环境中噪声为长尾分布和短尾分布噪声的线性组合时具有良好的性能。因此,在本论文中,我们研究了核技术和LMMN自适应滤波算法的结合,推导出一种可再生核希尔伯特(RKHS)空间中的自适应滤波算法,我们称之为核LMMN(KLMMN)算法。推导了保证算法稳定的学习步长参数的范围,并且证明了该算法是局部指数稳定的。另外,我们给出了在保持算法的收敛速度不变情况下的最优范数混合参数的表达式。为了证实KLMMN算法的优势,我们将算法应用于当系统噪声为高斯分布和贝努利分布线性叠加时的非线性系统识别和混沌时间序列预测的问题,仿真结果证实该算法在应对环境噪声为长尾分布和短尾分布的线性组合的问题时,确实能取得更低的收敛均方误差。其次,对于提高核自适应滤波算法的收敛速度问题,我们提出了两个核可变步长算法,简单做了算法的收敛性分析,并给出一个信道均衡的实例验证了这两个算法在保证稳态均方误差(MSE)不变坏的条件下很大程度上提高了算法的收敛速度。