随着无线通信技术的迅速发展,人们对数据传输速率、网络覆盖范围以及服务质量等提出了更高的业务需求。中继协作技术由于可以对抗信道衰落、增加传输可靠性以及提高系统性能而得到广泛关注。其中,双向中继系统具有较高的频谱效率,在当今无线资源相当匮乏的通信背景下,对双向中继系统进行研究具有重要意义。与传统放大转发和译码转发方案不同,本文主要研究乘积转发双向中继系统,具体工作如下:首先介绍了三节点乘积转发双向中继系统模型,并分析和推导了系统的接收信噪比。在高信噪比条件下,采用近似处理给出了接收信噪比的渐进表达式,并基于该渐进表达式,分析推导了系统的中断概率和误符号率性能闭合表达式。通过仿真验证了系统性能表达式的正确性。同时,仿真结果表明,在衰落信道下,乘积转发方案可以获得比放大转发更好的系统性能,具有更大的优越性。其次,为了合理利用有限的系统资源并进一步提高系统性能,提出了基于乘积转发双向中继系统的功率分配算法和中继转发算法。首先分析得到系统可达速率表达式,然后提出最大化系统可达速率的功率分配问题,为了求得功率闭合解,将可达速率的下界作为优化目标函数,得到功率的近似最优解。接着提出最小化系统平均误符号率的功率分配算法,通过最优化理论求得闭合解。接着,基于乘积转发双向中继提出最大最小信噪比中继选择算法,并分析了该算法的误符号率性能,理论分析和仿真结果表明该算法可以较大程度的降低乘积转发双向中继系统的误符号率,同时随着中继数目的增加,较之放大转发中继系统,乘积转发系统可以带来更大的性能增益。最后,研究并设计了两种基于双向中继系统的中继转发方案。结合乘积转发和软信息转发的思想,提出了一种基于双向中继系统的软信息转发方案。接着结合乘积转发和单向中继自适应转发的思想,提出了一种自适应转发方案——混合译码乘积转发,该方案不仅能利用译码转发降低系统噪声功率,而且还能利用乘积转发提供较好的分集增益。仿真结果表明,前者较传统软信息转发方案具有很好的误码率性能,后者较放大转发、译码转发和乘积转发方案具有更好的系统性能。