提高可用资源的效率一直以来都是推动通信技术发展的动力,特别是对于资源有限而需求却不断增长的无线通信系统意义更大。在未来新型无线通信技术中,协同中继可以在不大幅提高网络部署成本的基础上显著提高系统性能。因此,无线协同中继技术越来越受到业界的广泛关注。但是,相关研究表明无线通信系统在引入中继进行信息传输以后,由于中继节点需要额外的正交信道来传递信息,这将会导致系统频谱效率和能量效率的一些下降。考虑到上述原因,本文在对大量无线协同中继传输特性进行分析的基础上,研究了利用相关自适应与增强技术来提高无线协同中继系统频谱效率和能量效率的问题。首先,本文研究了将自适应调制技术引入无线协同中继系统,并在接收端采用简单选择接收方式来提高系统频谱效率的问题。在无线协同中继系统中,信源信息可以经过直接传输或中继传输两种模式到达信宿端。在独立不同瑞利衰落信道下,分析给出了不同传输模式的信宿端接收信噪比概率密度函数和累积分布函数的闭式表达式。无线信道先天的随机性使得采用不同模式进行传输时系统的频谱效率之间存在差异。进一步,以频谱效率最大为工作模式选取准则,推导出了采用自适应调制的无线协同中继系统平均频谱效率和中断概率的闭式表达式。利用计算机仿真验证了理论分析结果的正确性,同时通过与其它中继系统的性能进行对比,验证了所提系统具有易于实现、性能较优的特点。其次,研究了Nakagami-m信道下采用自适应调制的选择接收放大转发中继系统的性能。Nakagami-m信道可以作为一种通用模型表征多种不同衰落信道,包括常见的瑞利衰落和莱斯衰落。分析给出了独立不同Nakagami-m信道下,采用自适应调制的无线协同中继系统平均频谱效率和中断概率的闭式表达式。计算机仿真结果证明了理论分析的合理性及采用自适应调制的系统优越性。再次,研究了自适应调制技术在无线双向中继传输系统中的应用问题。双向中继可以方便的应用网络编码来增强无线协同中继系统的传输性能。分析给出了Nakagami-m信道下,采用两时隙、三时隙及四时隙传输的双向中继系统平均频谱效率和中断概率的闭式表达式。计算机仿真结果证明了理论分析的正确性和合理性。因此,可以方便的利用分析结果对Nakagami-m信道下采用自适应调制技术的增强型双向中继系统性能进行评估。最后,研究了Nakagami-m信道下两时隙增强性双向中继系统的功率分配问题。假设系统总的传输功率受到限制,在已知系统瞬时信道信息或统计信道信息的情况下,以系统中断概率最小为目标分别给出了系统的最优功率分配方案。通过与其它功率分配方案进行对比,利用计算机仿真验证了求得功率分配方案的优越性。