在无线通信中,Turbo码是目前应用最广泛的信道编码技术之一,它明显提升了无线频谱的使用效率。分析发现,交织增益的存在使得Turbo码的纠错性能依赖于其采用的交织器的交织深度。以第四代宽带无线通信系统LTE-A为例,在码率R=1/3、QPSK调制及误块率为10-4的条件下,和较短(K≤200,K是交织器的交织深度)的Turbo码相比,较长(K≥1000)的Turbo码能获得1.5-3dB的增益。为了改进短Turbo码纠错性能,本文研究了Turbo码优化的网格终止方法、短Turbo码内部交织器设计方法、多用户协作Turbo编码方法和多用户协作自动请求重传方法。本文的具体贡献如下：1)双结尾Turbo码是目前最常用的Turbo编码方法,其分量编码器的网格终止方法会导致边界效应以及额外的尾比特开销。这些缺点影响了Turbo码的性能,尤其是交织深度较短和码率较高的Turbo码的性能。本文通过Turbo码分量编码器之间的连续编码,达到了降低边界效应和尾比特开销的目的。理论分析和仿真验证表明：Turbo码分量编码器之间的连续编码能够优化Turbo码网格终止的性能,进而提高Turbo码的性能,特别是提高交织深度较短和码率较高Turbo码的性能。2)对于交织深度较短的Turbo码,其分量编码器产生的低重量校验比特序列是由具有长度小于(?)的自终止输入模式的输入信息比特序列导致的。本文通过对Turbo码自终止输入模式的分析,发现最大扩展因子互素交织器能够有效地打破所有长度小于(?)的自终止输入模式。理论分析和仿真验证表明：采用最大扩展因子互素交织器作为Turbo码的内部交织器能够提高交织深度较短的Turbo码的性能。3)相对于单用户处理技术,多用户联合处理使得参与联合处理的每个用户能够共同利用多个用户的资源以协作的方式来获得更大的增益,本文提出了一种多用户协作Turbo编码方法。在采用多用户协作Turbo编码的下行链路中,在给定的服务可靠性要求下,接收端可靠译码需要的对数信噪比与参与协作的用户数N和消息长度K的乘积成反比。即：参与协作的用户数N和消息长度K的乘积越大,接收端可靠译码需要的对数信噪比值就越低。另外,参与协作的用户数N和消息长度K的乘积越大,性能增益的增量就越小。理论分析和仿真验证表明：本文给出的多用户协作Turbo编码方法适合在用户的消息长度K较短的场景中使用。4)基于无线电波的广播特性和网络编码,本文研究了一种新的多用户自动请求重传方法。基站将多个用户的重传数据包逐比特地线性组合在一起后再广播；用户利用置信传播算法从组合数据包中检测出基站发给本用户的重传数据包,并和以前传输的数据包软合并后再译码。理论分析和仿真证明：在复杂度和单用户自动请求重传相近的情况下,多用户自动请求重传能够将无线通信系统的频谱效率提高8%。采用和广播链路上多用户自动请求重传类似的原理,本文还讨论了单播链路上多个并行数据流的联合自动请求重传问题。在多数据流自动请求重传中,发射端采用网络编码将多个数据流的重传数据包经过合并后再传输给接收端。基于置信传播算法,接收端从组合数据流中检测出各个数据流的重传数据包,并和在前次传输时缓存的数据流软合并后译码。此外,接收端再用置信传播算法将先译码成功的数据流从组合数据流中消除,以提高未成功译码数据流的检测性能。和单播链路上传统的多个数据流独立自动请求重传相比,多数据流联合自动请求重传能够将单播链路的频谱效率提高10%,而仅增加不到20%的复杂度。综上所述,本文以提升Turbo编码无线通信系统的频谱效率为目标,优化了双结尾Turbo码的网格终止方法,研究了短Turbo码内部交织器的设计方法,给出了一种多用户协作Turbo编码方法和多用户协作自动请求重传方法。本文的工作使得Turbo编码无线通信系统能够更好地支持各种长度的业务数据包,具有重要的学术意义和应用价值。尤其是,本文探讨的短Turbo码内部交织器的设计方法和多用户协作Turbo编码方法能够明显优化短Turbo码的性能,显著提升Turbo编码无线通信系统对短数据包的传输能力。