协作通信技术利用网络中闲置的天线资源为中继协助信源节点与目的端通信，通过空间分集克服信道衰落的影响。与直接转发信源节点信息的协作方式相比，协作编码具有更高的谱效率。目前，点到点信道的LDPC编码、译码、及低复杂度校验矩阵的构造等方法比较成熟。鉴于中继信道的特殊性，传统的基于点到点信道条件设计的LDPC码不能很好的适用于中继信道。本文紧密围绕协作编码技术的实际问题，研究了解码前传半双工中继信道下基于LDPC码的协作编码方案设计方法，基于打孔优化和校验矩阵扩展优化的LDPC协作编码方法，主要成果概括如下：1、分析了打孔LDPC码和协作编码方法的特点，指出现有打孔协作LDPC码存在的问题，从提高协作编码增益和译码复杂度的角度出发，提出基于打孔协作LDPC码的优化构造与译码方法。第一步，为了提高打孔LDPC码在协作编码系统的编码增益，提出了母码校验矩阵的优化构造方法。在该方法中，首先结合码率兼容条件，采用度分布优化扩展的约束优化算法提高母码渐进性能。然后根据打孔变量节点的恢复树结构，优化母码校验矩阵结构，提高信源节点—中继节点信道上传输打孔子码的误码性能。第二步，针对打孔协作LDPC码的译码迭代次数过高的问题，提出基于打孔变量节点分组优化和串行调度的BP译码算法。首先按消息的可靠度对打孔变量节点进行分组，译码时优先对可靠度较高的变量节点分组进行调度，从而加快译码收敛速度。当译码次数较低时，该译码方法的性能优于BP算法和随机分组洗牌BP算法，特别是当中继靠近目的端时，译码性能改善越明显。2、为了避免因打孔造成协作编码的性能损失，提出基于校验矩阵扩展优化的协作LDPC (OEPCMC-LDPC)码设计方法。首先从信源LDPC子码和OEPCMC-LDPC码的关系出发，构造了一种具有码率兼容结构的协作LDPC码校验矩阵及其tanner图。接着，为了分析OEPCMC-LDPC码的渐进性能，结合信源节点—中继节点和中继节点—目的端的信道条件，推导了OEPCMC-LDPC码的译码收敛条件。最后，考虑中继传输和不传输自己的信息比特两种情况，结合信源节点LDPC子码和OEPCMC-LDPC码的度分布约束关系，提出了OEPCMC-LDPC码两种具体实现方案（基于动态和固定时隙分配协作LDPC码）的度分布优化设计方法。仿真结果验证了该方法的有效性。3、针对多信源单中继信道条件，提出一种多边校验节点联合LDPC（PJCMET-LDPC）码的设计方法。首先构造一种具有多边结构的LDPC码校验矩阵及其tanner图。该结构将多个信源节点和中继节点的信息视为一个整体，目的端采用联合译码提升PJCMET-LDPC码的整体编码增益。借鉴传统LDPC码的性能分析方法，结合多个信源节点的LDPC子码和中继校验比特所经历的信道状态，推导了PJCMET-LDPC码的译码收敛条件。在此基础上，采用差分进化算法优化PJCMET-LDPC码的度分布，提高渐进性能。仿真结果表明，PJCMET-LDPC码的误码性能和渐进性能优于独立协作编码方式。4、从提高中继节点转发软消息的可靠度和协作编码增益的角度出发，提出一种基于软消息建模的低复杂度软译码前传协作LDPC码的设计方法。首先，结合信源子码和协作LDPC码的码率兼容特点，构造一种具有下三角结构的校验矩阵。接着，运用BP迭代译码算法提高中继节点生成软消息的可靠度，结合校验校验矩阵结构特点，采用后向迭代处理方法获得校验比特的软消息。最后，将软消息建模为校验比特经过快衰落信道的输出信号，采用直方图统计方法得到该信道条件下的输入输出转移概率，从而获得一种精确计算MAC(multiple-access channel)模式下目的端LLR(log-likelihood ratio)消息的方法。利用信源节点和中继节点相关传输特性，消除MAC模式下中继节点前传错误软消息对目的端接收LLR的影响，并提出了中继节点的功率控制条件。仿真结果验证了该方法的可行性。