中继协作通信技术具有三个主要优点：提供协作分集,提高蜂窝系统小区边缘的通信质量,增加基站的覆盖范围和减小基站盲区。双向中继因其在频谱利用效率上比传统单向中继具有更巨大的优势,得到了越来越广泛的关注,将成为下一代无线通信系统关键技术之一。鉴于此,本文主要研究基于放大转发(AF)双向中继相关关键技术,包括波束成形、容量区域的分析以及功率分配,主要研究内容如下：1)针对用户单天线中继多天线双向中继系统,首先将基于迫零(ZF, Zero Forcing)算法和广义幂迭代(GPI, Generalized Power Iteration)算法的两种波束成形方案进行了比较；然后通过凸优化方法得出了可达容量区域边界的波束成形。仿真结果表明：GPI算法和凸优化方法在速率方面明显优于ZF算法,并且ZF算法受到天线数目和信道相关系数的影响较大。2)针对多输入多输出(MIMO, Multi-Input Multi-Output)双向中继系统,首先给出了基于ZF和最小均方误差(MMSE, Minimum Mean Square Error)的线性转发滤波器的设计；然后采用梯度下降算法得到了最大化和速率的波束成形；最后创新性地提出了基于MIMO双向中继的功率分配方案。仿真结果表明：MMSE转发滤波器性能优于ZF转发滤波器；梯度下降算法能达到和GPI算法一样的系统性能；所提功率分配方案的可达和速率比等功率分配方案高0.3到0.5bps/Hz。3)针对分布式双向中继系统,实现了基于均方误差(MSE, Mean Square Error)的渐进最优方案、功率最小化算法和信噪比平衡(SNR Balancing)算法。仿真结果表明：在和速率性能方面,功率最小化算法最好,基于MSE的渐进最优方案略低,而信噪比平衡算法在低信噪比情况下较差,但是随着信噪的比升高慢慢趋近功率最小化算法,最后与之重合。虽然在同样天线数目下该系统因中继天线之间不完全协作,导致系统和速率低于集中式双向中继系统,但是它的复杂度较低。