当今的无线通信技术正朝着更高效（更高的资源效用）、更快速（更快的数据传输和处理速率）、更可靠（更强的系统可靠性）的目标发展。然而，数据处理的实时性和高速有效性，以及频谱资源的稀缺性和不可再生性，都是实现这一目标必须应对的挑战。面对这些严峻挑战，本论文研究了下一代无线通信(B3G/4G)中备受关注的两个方向：高速率、低延迟的Turbo译码，以及快速可靠的协作频谱感知，并取得了一定的研究进展，以满足下一代无线通信业务的服务质量需求。论文的主要工作概括如下：1．在高速Turbo译码方面：针对传统高速Turbo译码中存在的缺陷，本论文分别从译码算法和译码结构两个角度进行了进一步研究。a)对高速率、低延迟Turbo译码，进行了译码算法的改进。提出了一种新的基-4SOVA算法，并做出了完整的数学推导，该算法的关键是提出了一种新的可信度更新方法，可实现编码网格图中两步状态转移合并后的可信度更新。通过分析新算法的使用范围可知，新的基-4SOVA算法不仅适用于基于比特交织的二进制的Turbo码，同时也适用于基于比特对交织的双二进制的卷积Turbo码，而传统的基-4SOVA算法只适用于基于比特交织的二进制的Turbo码。另外，新算法的误码率性能非常接近基-4Max-Log-MAP算法，当自适应引入外信息系数后，逼近基-4MAP算法，而且新算法还具有译码延迟小、存储资源占用少等优点，达到了与计算复杂度的良好折中。b)对高速率、低延迟Turbo译码，进行了译码结构的改进。提出了一种新的降低延迟的并行译码方案。新方案的关键是设计新型的无冲突(CF)交织器，在对CF准则分析之后，利用滑动窗的思想，提出了基于窗的CF交织器设计准则和一种实现方法，新CF交织器可以使两级SISO处理器之间传递的外信息，实时地作为彼此的先验信息用于下一次分量译码以减小译码延迟。对于相同的并行度和迭代次数，时间复杂度比较表明新并行方案的译码延迟大约下降到传统并行方案的1/4，即新并行方案大大降低了译码延迟。不过仿真结果表明新并行方案的BER性能劣于传统并行方案，并且随子块中分窗个数的增加，译码性能的下降越多。但是值得注意的是：当只将子块分成两个窗时，新并行方案的译码性能下降非常小，而且译码延迟仍大约下降到传统并行方案的1/4。针对“子块分成两个窗”这一特定情况，又进一步提出了一类改进的ISbS (M-ISbS)无冲突交织器，并为该交织器提出了一种支持可变交织长度的低复杂度实时并行实现结构，可用于子块分为两个窗的新并行译码方案。2．在协作频谱感知方面：协作频谱感知通过利用多个用户之间的空间分集可以大大改善认知无线电系统的频谱检测性能，本论文针对不同特定场景下的认知系统，分别研究了基于最佳认知用户集和基于最佳中继的协作频谱感知方案。a)针对相关阴影下的认知系统，研究了该场景下协作频谱感知的最佳认知用户集选择方案。首先介绍了相关对数正态阴影下协作频谱感知的假设检验模型和检测性能。然后根据虚警概率和漏检概率是否被约束，通过考虑检测性能和协作代价之间的有效折中，提出了三个最佳认知用户集选择的最优化问题。不幸的是所提最优化问题都属于NP困难问题，为了求得最佳认知用户集，进一步提出了基于自适应遗传算法(GA)的解决方法。最后，仿真结果说明，提出的认知用户集选择方案能够有效地给相关阴影下的协作频谱感知找到一个最佳的协作认知用户集。b)针对存在多个中继的认知系统，研究了基于最佳中继的协作频谱感知方案，并重点分析了在Nakagami-m衰落信道下的检测性能。首先利用机会中继选择(ORS)技术，提出了基于机会放大转发中继的协作频谱感知(CSS-OAFR)方案，推导了该方案基于能量检测的检测性能，尤其给出了平均漏检概率紧的闭式下界，通过仿真验证了理论分析结果的有效性，并且讨论了参与选择的中继数目对检测性能影响。然后将基于部分中继选择(PRS)的AF策略应用到协作频谱感知，称为CSS-AFS-PRS方案，同样进行了类似的检测性能分析和仿真验证，此外仿真结果还表明，在CSS-AFS-PRS方案中仅两个中继参与选择就可达到相对较好的检测性能，因而可以克服选择代价。