随着未来无线通信发展,人们对高速率、高质量通信的需求日益增长,而频谱资源有限是要解决的主要问题。非规则LDPC码优异的纠错性能与高阶调制BICM系统高带宽效率的结合是一种能提高频谱效率的有效方案。本文首先对LDPC码的基本原理、编译码方法、校验矩阵构造法以及非规则LDPC码的度数分布优化方法密度演化法和高斯近似密度演化法做了系统的研究。比较并证明了PEG校验矩阵构造法较随机构造法的优越性。研究分析了非规则LDPC码的不同度数的变量节点不等的纠错能力。然后研究了基于LDPC码的BICM系统及BICM-ID系统的基本原理和星座映射方式的设计。分析比较了联合迭代译码与非联合迭代译码,发现联合迭代译码在误比特率为10-4时至少有0.6dB的增益。对于三种典型的星座映射方式:格雷(Gray)映射、修正的集分割(MSP)映射、集分割(SP)映射,给出星座映射设计的欧式距离准则。仿真证明AWGN信道下,Gray映射方式在BICM系统中最优,MSP映射方式在BICM-ID系统中最优。最后针对基于非规则LDPC码的BICM系统,提出一种改进的映射方案和相应的非规则LDPC码度数分布优化方法。基于使编码保护能力较弱的变量节点,映射至具有较强调制保护能力的等价子信道的策略,将非规则LDPC码的编码与调制相结合,用精心的映射取代传统的随机映射。应用改进的高斯近似密度演化法,将BICM系统每一个子信道对应不同的度数分布,搜索非规则LDPC码最佳总体度数分布和分别映射至每个独立子信道的度数分布。仿真结果表明,AWGN信道下,改进的映射方案比传统的随机映射方案的误比特率性能有明显的改善。