随着频谱资源的急剧稀缺以及人们对高数据速率无线通信的强烈需求，新一代无线通信在传统中继的基础上引入了双向中继。它所需要的时隙数从原来的4个减少到了2-3个，因而可以成倍的提高频谱效率，最近几年双向中继已经成为国内外学者广泛研究的课题。然而，双向中继在带来高频谱效率的同时，由于时传输数据所需隙数的减少会导致用户之间干扰增大，如何抑制这些干扰就成为双向中继研究中亟待解决的问题。本论文聚焦于上述问题，对单用户对和多用户对两种场景下的干扰抑制策略进行了深入的研究。　　 本文首先研究了单用户对场景下用户之间的自干扰抑制策略。在单用户对场景下，主要应用物理层网络编码(PNC)来解决两个用户之间的自干扰问题，在中继系统中就是中继端处理策略问题，常见的有去噪转发(DNF)、解码转发(DF)。本文针对采用DNF方案的双向中继系统，首先给出了端到端的误比特率(BER)计算方法，然后提出了一种满足匹配性的调制映射方案，该方案利用第一跳和第二跳信道的互易性，使得其具有一定的纠错能力从而抑制这种自干扰带来的性能下降，提高了DNF方案的误比特率(BER)性能。最后，通过仿真验证了本文提出的BER计算方法的正确性，以及本文提出的满足匹配性的调制映射方案的有效性。　　 本文还研究了多用户对场景下用户对之间的互干扰抑制问题。在多用户对场景下，用户对之间的干扰问题涉及到不同的多址方式，比如正交频分多址(OFMDA)、码分多址(CDMA)、时分多址(TDMA)、空分多址(SDMA)等。对于采用CDMA接入方式的多用户双向中继系统，由于其干扰受限的特性，会造成用户对之间存在多用户干扰，第一跳的功率控制就成为抑制用户对之间互干扰的关键。本文针对CDMA多用户双向中继系统，通过模型等效和BER的拟合近似，引入了一种基于效用函数的功率控制算法，并给出了相应的功率控制迭代算法，接着对纳什均衡的存在性和唯一性进行了理论证明。最后，通过仿真对上述近似的可靠性进行了验证，同时验证了所提功率控制算法具有收敛速度快、发射功率小的优点，而且在系统中用户对数目较多的情况下，该算法与传统算法相比能够降低用户对平均发射功率。