连续相位调制（Continuous Phase Modulation, CPM）是一种非线性调制，具有相位连续和恒包络的特性，因而频谱更加紧凑，频带利用率更高，抗衰落能力更强，可采用较为廉价且高效率的C类非线性功率放大器，大大降低放大器的成本和减小终端的功耗。同时，CPM信号具有记忆特性，自身可以等价为编码器，因而结合信道编码可以对信号进行迭代检测。一般的CPM接收机较为复杂，本文考虑降低接收机复杂度同时，通过迭代检测技术有效提高系统性能。本文主要是针对无线通信系统中的CPM信号，研究了低复杂度的迭代检测算法。首先阐明了本文的研究背景及意义，整理分析了线性调制信号的迭代检测技术和连续相位调制信号的迭代检测技术的研究现状，并简要说明了本文主要研究内容和结构安排。其次主要研究了基于差分预编码的二进制CPM低复杂度的迭代检测算法。通过结合CPM差分预编码和二进制CPM信号的Laurent分解，使得分解得到的波形系数只与发送符号相关，有效地消除了CPM自身的记忆性，大大简化了接收端解调复杂度。结合信道记忆特性与CPM分解的脉冲特性带来的ISI，提出了新的等效信道用于CPM接收机均衡。比较研究了基于MMSE迭代均衡和SFIC迭代均衡技术，提出了一种基于预编码的低复杂度CPM迭代检测算法。仿真结果，复杂度分析和收敛性分析表明，SFIC迭代均衡算法具有比MMSE迭代均衡更低的计算复杂度，通过多次迭代能够逼近MMSE迭代均衡算法的性能。再次主要研究了基于瞬时频率估计的多进制CPM低复杂度的迭代检测算法。研究了瞬时频率估计算法，该算法能够有效通过估计符号内变化的频率得到变化的相位，进而求解出各状态最大似然符号概率，基于此提出了一种多进制CPM的非相干迭代检测算法。仿真了不同进制的CPM信号功率谱，比较了相同带宽下不同进制CPM信号的迭代检测性能。相比基于网格解调的多进制CPM相干解调算法，频率估计算法具有较低的复杂度。最后主要研究了协同中继系统中基于相位前传的CPM低复杂度的迭代检测算法。研究了CPM信号采用鉴相器的解调方法，基于条件概率密度函数，推导了其输出的对数似然信息，进而提出了基于此的CPM的非相干迭代检测算法。分析比较了CPM信号采用不同中继方式在衰落信道下的迭代检测性能。由于相位前传在中继节点丢弃了幅度信息，因而比放大前传的性能略差；但基于天线选择的相位前传在保持相位连续的特性下能获得优于放大前传的性能。综上所述，本文研究了CPM的低复杂度迭代检测算法，并展望了下一步CPM低复杂度迭代检测技术的研究方向。