随着宽带多媒体业务的快速发展，很多卫星通信系统工作于Ku/Ka波段，而在此波段，卫星信道的雨衰问题非常严重。为了减小雨衰的影响，卫星自适应传输的研究成为了热点。本文主要研究了卫星自适应传输中的关键技术，包括系统容量分析、编码调制方式选择、卫星多波束功率分配技术、低信噪比下编码辅助帧同步技术、高精度编码辅助实时信道估计技术等，并设计实现了低复杂度的宽带卫星自适应调制解调器。本文的主要创新点和贡献分为以下几个方面：1.分析了卫星自适应传输的系统容量，提出了两种编码调制方式选择算法和一种卫星多波束动态功率分配算法，显著提高了卫星自适应传输的频谱效率。从理论方面分析了卫星自适应传输系统的系统容量，为卫星自适应传输系统的设计提供了理论参考；根据卫星信道的雨衰统计模型，分别提出了基于统计概率最大原则和基于相对频谱效率损失最小原则的编码调制方式选择算法，可使卫星自适应传输系统采用较少的编码调制方式获得较高的系统容量；提出了一种基于粒子群优化（PSO）的卫星天线多波束动态功率分配算法，该算法获得的系统容量两倍于固定功率分配获得的系统容量。2.提出了一种低复杂度的编码辅助帧同步算法，并推导了该编码辅助帧同步算法的平均捕获时间和平均确认失步时间。首先，提出了一种基于LDPC码约束条件的低复杂度编码辅助帧同步算法。该算法依据信道硬判决和LDPC码约束条件进行帧捕获，并且利用LDPC码的译码信息进行帧跟踪，其捕获和跟踪性能优于基于导频辅助的帧同步算法。最后，推导并且仿真了该编码辅助帧同步算法的平均捕获时间和平均确认失步时间，为编码辅助帧同步算法的工程设计与实现提供了理论依据。3.提出了两种高精度的编码辅助APSK信号信噪比估计算法，并且推导了编码辅助APSK信号信噪比估计的克拉美罗限，提供了理论性能极限。首先，基于最大似然准则，从理论上推导了编码辅助APSK信号信噪比估计算法的表达式；其次，考虑到上述算法中译码器和信噪比估计器之间的耦合关系，提出了一种基于期望最大（EM）算法的编码辅助APSK信号迭代信噪比估计算法，并推导了该算法的闭式表达式，在低信噪比下该算法的估计精度明显优于传统算法，为卫星自适应传输提供了高精度的信道估计；最后，推导了编码辅助APSK信号信噪比估计的克拉美罗限，验证了上述两种算法的有效性，并为编码辅助APSK信号信噪比估计提供了理论性能极限。4.提出了低复杂度的帧同步、载波相位同步和信噪比估计算法，研制了低复杂度的宽带自适应调制解调器，其测试结果满足系统指标要求。设计了具有分布式和结构化导频的物理层帧结构，其中每帧符号数相等且独特字（UW）与导频段之间符号数相等，使得接收机同步的复杂度显著降低；提出了一种改进的联合帧头和导频的差分帧同步算法，提高了原算法的检测性能，并降低了捕获时间；提出了一种基于线性插值的联合UW段和导频段辅助的载波相位同步算法，在较低复杂度下提高了同步精度；提出了低复杂度的非数据辅助信噪比估计算法，与传统算法相比，其实现复杂度显著降低；研制了低复杂度的宽带自适应调制解调器，对其进行基带环路性能、中频环路性能和自适应传输性能测试，测试结果满足指标要求，验证了算法的有效性。