近年来,随着新型无线通信技术的应用及海量通信节点的涌现,有限空域、频域内的无线设备数量急剧增加,造成频谱共生环境的恶化,导致用户间的邻道干扰越来越频繁。以军事通信为例,指挥车、舰船、飞机中大功率发射信号会对同平台接收信号造成干扰,导致接收机灵敏度下降,通信距离缩短;民用通信领域,移动通信基站发射信号会对邻频部署的Wi Fi网络和导航定位信号形成干扰,引发用频冲突。邻道干扰不仅增大了背景噪声电平,恶化了接收信噪比;加剧了频谱资源的无谓消耗,激化了通信系统用频矛盾;同时还给通信网络规划与运维带来挑战,严重制约了现有无线通信系统效能的有效发挥。本文研究聚焦于频谱共生系统邻道干扰抑制关键技术,通过抑制邻道干扰来优化频谱共生系统的通信效能。本文的主要贡献如下:（1）提出了辅助支路支撑的邻道干扰重建抵消抑制方法。首先,在接收机增加辅助支路,利用发射数字基带信号和接收射频干扰信号对系统非线性参数进行估计。然后,利用数字基带信号和估计参数重建邻道干扰。最后,在接收信号中减去重建信号,消除发射机信号旁瓣对期望信号的干扰。仿真及实验结果表明,所提方法提供了不小于10 d B的邻道干扰抑制能力,提高了接收信号信干噪比,降低了频谱共生设备间的互干扰。（2）从理论上分析了频率偏移对邻道干扰抑制性能的影响。首先,推导证明了收发支路频偏会引起两部分系统误差增大,一是辅助支路数字基带信号解调误差,二是接收支路信号相减抵消后的残余误差,从而导致总的残余干扰变大。其次,给出了频偏约束下邻道干扰抑制的闭合表达式,并分析了信干噪比、信号长度和干扰抑制性能损失之间的关系。最后,仿真验证了频偏补偿方法的有效性和可行性,给出了导频序列长度、信干噪比及频偏估计精度之间的关系。（3）提出一种主瓣频谱反演邻道干扰抑制方法,以有限的干扰抑制性能损失换取了辅助支路ADC采样速率的降低。首先通过窄带滤波提取干扰信号的主瓣分量,并利用低速ADC完成数字化;然后通过频谱反演恢复出丢失的旁瓣分量以得到完整的干扰信号;最后利用恢复信号完成邻道干扰的重建与抵消。仿真分析了反演误差与邻道干扰抑制性能损失之间的关系,实验验证了逆滤波器阶数、信干噪比与邻道干扰抑制性能之间的关系。（4）提出一种旁瓣滤波拟合邻道干扰抑制方法。针对频分复用双工滤波器邻道干扰泄露的问题,该方法可以直接利用接收支路原有ADC输出信号（即干扰信号旁瓣）进行干扰的重建与抵消。首先在参数训练阶段利用训练序列和干扰信号旁瓣对系统非线性参数进行估计,然后在干扰抑制阶段利用估计参数和发送数字序列完成邻道干扰的重建与抵消。所提方法简化了辅助支路电路结构,不再需要额外的射频滤波器和采样ADC,能有效降低应用成本。本文通过干扰重建与抵消来缓解频谱共生发射机对接收机的邻道干扰,能增大期望信号信干噪比,提升系统频谱效率。研究成果可应用于异构通信、共生通信、电子对抗、电磁兼容等场景,以更好地促进现有通信系统效能的有效发挥。