无线信号的广播特性决定了干扰在无线通信中无处不在,也是引发了诸多无线通信技术问题的根源。本论文主要研究无线通信中和干扰相关的两个问题：信道均衡(Channel Equalization)和多用户检测(Multiuser Detection)。前者是用来处理多径效应、信道带宽限制、以及无线信道特性的不确定性导致不可避免的码间串扰；后者则是用来处理码分多址无线通信系统的多址干扰。信道均衡技术能够提高衰落信道的传输性能,解决无线通信中的多径时延带来的码间串扰问题,而多用户检测则是码分多址通信系统克服多址干扰的最有效手段。机器学习是一门人工智能的科学,它涉及到很多学科,包括心理学、生物学、神经生理学以及数学、自动化和计算机科学。机器学习是人工智能技术的核心,主要研究如何从观测到的数据分析得到一些规律,进而利用这些规律对未知数据或无法观测到的数据进行预测。本论文运用机器学习来估计码间串扰和多址干扰的特点,从而可靠地检测发送信号。主要完成了以下工作：第一,分析了高斯过程以及稀疏高斯过程。高斯过程是一种基于贝叶斯框架下的回归方法,它可以看成最小均方误差准则解决非线性问题的推广。无线通信中很多问题都是基于最小均方误差准则求解,如果用高斯过程替代最小均方误差准则,则可以提高系统的性能。此外,高斯过程不仅可以对某个输入计算出其对应的输出值,还可以给出输出值的概率分布,用这种方法来预测函数值更为精确。稀疏高斯过程是通过一些稀疏近似的方法来近似高斯过程,在满足一定精度的条件下,可以大大减少其计算复杂度,这对实时性要求很高的无线通信系统来说是很有必要。第二,提出了基于稀疏高斯过程的多用户检测技术。通过分析多用户检测问题可以发现,数学上可以将该问题归结为函数回归,鉴于此,我们运用高斯过程回归的方法求解多用户检测问题。该方法无需知道每个用户的扩频码信息,而是利用一些已知的发送序列和其对应的接收序列,通过这些序列进行函数回归,从而对未知的接收信号进行检测。由于高斯过程可以对非线性的函数回归,所以基于该方法的多用户检测算法性能要优于最小均方误差。第三,提出了基于稀疏高斯过程的信道均衡技术。与多用户检测模型类似,信道均衡模型也可以看成一个函数回归问题,所以我们运用斯过程回归的方法求解信道均衡问题。基于高斯过程的均衡器可以均衡无线信道中各种非线性因素的影响,与基于最小均方误差均衡器相比,性能明显大大提高,因为后者只能均衡线性因素的影响。第四,分析了多种稀疏高斯过程性能,并给出原因。根据理论分析和仿真结果,我们发现稀疏谱近似高斯过程可以很好的近似全高斯过程,而回归量子集近似高斯过程性能相对差一些,这是因为前者是对核函数的近似,后者是对协方差矩阵的近似,随着训练样本数的增加,后者对协方差矩的阵近似越来越不精确,所以后者的性能不如前者。本文将(稀疏)高斯过程应用于多用户检测和信道均衡模型,与传统的检测／均衡器相比,基于高斯过程的检测／均衡器性能占优。