随着网络传输数据量的急剧增长,无线射频通信所使用的频谱资源却日渐紧张,于是可见光通信（Visible Light Communication,VLC）作为一种新的通信方式逐渐引起人们的注意。然而,VLC系统中的非线性器件,尤其是发光二极管（Light-Emitting Diode,LED）的存在,会导致信号非线性失真,严重影响系统性能。因此,有必要研究信号的非线性失真补偿算法。基于上述背景,本文首先简要介绍了常用的VLC系统模型及其中的LED模型和信道噪声模型,仿真分析了LED非线性对信号造成的影响;并针对LED的非线性特性和记忆效应,重点研究了位于接收端的信号非线性失真补偿算法,主要创新点如下:（1）研究了基于稀疏化核仿射投影算法（Kernel Affine Projection Algorithm,KAPA）的后失真补偿方案。根据可再生核希尔伯特空间（Reproducing Kernel Hilbert Space,RKHS）与核技巧的相关性质,详细推导了核仿射投影算法的序贯学习准则,并提出将稀疏化KAPA用于补偿信号的非线性失真。（2）针对LED的记忆效应,提出了一种去记忆效应算法;并将此算法与稀疏化KAPA结合用于补偿信号失真。仿真证实了稀疏化KAPA具有比核最小均方算法更快的收敛速度和更好的系统性能;此外,当去记忆效应算法与稀疏化KAPA结合后,可以有效降低算法的地板效应。（3）研究了另一种基于径向基函数（Radial Basis Function,RBF）插值及去记忆效应的失真补偿方案。首先通过仿真图例详细讲述了RBF插值的原理,然后提出利用RBF插值结合所提的去记忆效应算法,共同补偿由LED导致的信号失真。仿真结果表明了基于RBF插值及去记忆效应算法的有效性,其中,是否去除LED的记忆效应同样可以使系统的误比特率（Bit Error Rate,BER）达到更优的性能。