频谱认知蜂窝网络通过认知无线电技术捕获并利用蜂窝网频带外的闲置频谱资源，能够从根本上提高网络的容量和能效，代表了移动通信网络的一个主要演进方向。基于协同的频谱认知蜂窝网络利用频谱资源的互补特性来优化协同通信的物理层传输，比起非协同的网络具有诸多优势。　　为了深入了解协同频谱认知蜂窝网络的性能极限，本文从信息论的角度，对混合认知中继信道开展了较深入的研究。与传统中继信道不同，混合认知中继信道中的源和中继分别使用授权和认知频谱资源传输信息，而两段频谱资源具有不同的带宽、功率和稳定性特点。本文从链路级高斯信道、链路级瑞利信道、系统级干扰信道三个层面，递进地对混合认知中继信道的性能和最优资源分配问题进行了系统的分析。主要工作及贡献如下。　　首先，以高斯混合认知中继信道为出发点，本文分析了其容量、频谱效率(SE)和能量效率(EE)三个性能指标的上下限，推导了针对单个指标的最优功率-带宽资源分配曲线，推导了EE-SE折中关系的闭合式，并考察了认知频谱资源稳定性对认知蜂窝网络性能的影响。　　其次，扩展到瑞利混合认知中继信道，本文提出了三种信道工作模式，用于区别不同的中继缓存策略和资源分配策略。在此基础上分析了三种模式下瑞利信道的性能上下限，并推导了最优功率-带宽资源分配曲线和EE-SE的折中关系。最后，综合比较了三种模式的优缺点和实际价值。　　最后，扩展到系统级干扰信道，本文采用随机几何的方法建立系统级模型，分析了多小区干扰下的认知中继信道的性能。在中继有缓存和无缓存两种模式下，推导了容量的关系式，并通过数值仿真的手段分析了系统的性能和最优资源分配。　　通过本文研究发现，混合认知中继信道的最优功率-带宽分配曲线分为五个不同的区域，每个区域分别代表不同的性能折中关系;当功率和带宽资源不受限制时，认知频谱资源的稳定性对EE-SE的折中关系没有影响;认知中继的加入不仅可以较大程度提升系统能效，而且中继位置变化影响资源分配结果。本文的研究成果增进了对混合认知中继信道的理论了解，能够为下一代蜂窝网络的演进提供有价值的理论参考。