随着5G技术、物联网、人工智能等新兴领域的兴起和发展,人们对无线通信网络的传输速率、带宽等提出了更高的要求。光纤无线(Radio over Fiber,ROF)技术集成了无线通信和光纤通信的优点,在实现大容量、低成本的信号接入服务同时,为上述问题提供了有效的解决方案。但是目前提出的ROF方案大都使用了强度调制/直接检测的通信方式,信号传输速率、中继距离都比较近,致使ROF系统性能受限。基于相干检测技术的ROF系统可以支持多种高阶调制格式,另外配合相干检测、数字信号处理技术,可提高系统的中继距离及传输容量。因此,研究高速、远距离的相干检测ROF通信方式成为当前研究热点之一。文章首先对课题研究背景及现状、ROF技术特点和应用场景、相干检测技术在ROF中应用进行简要介绍,引出课题研究方向。然后集中介绍了偏振光、光纤链路损伤,并对偏振光数学表示展开数学推理。此外对四种星形、方形16-QAM信号生成方案进行仿真验证,对各种方案优缺点进行对比总结。之后文章对涉及的相干检测、数字信号处理关键技术展开了详述。其次,在以上研究分析基础之上,文章提出了一种基于相干检测的双向输出信号频率可选的ROF系统。该系统结合相干检测、数字信号处理技术,单光源条件下实现双向相干检测且双向输出信号频率可选。针对20Gbit/s 16-QAM调制信号,经30km光纤传输,系统下行输出信号频率实现0～60GHz可选,其传输最小矢量误差(Error Vector Magnitude,EVM)为6.53%(0GHz)～7.61%(60GHz);上行输出信号频率实现0～120GHz可选,其传输最小EVM为6.89%(0GHz)～8.30%(120GHz)。理论分析和仿真结果表明,所提出的基于相干检测技术的ROF系统传输性能良好且稳定。最后,文章对所提出的ROF系统结构进行优化,实现了一路下行、两路上行传输,并采用32-QAM调制信号进行了相干检测传输性能验证;NRZ调制信号进行另一路上行直接检测传输性能验证。20Gbit/s 32-QAM调制信号经10km光纤传输,系统上行、下行输出各频率QAM信号最小EVM为5.90%(0GHz)～6.63%(60GHz)、5.40%(0GHz)～6.70%(120GHz),系统上行2.5Gbit/s NRZ信号误码率小于向纠错编码技术(Forward Error Correction,FEC)规定,仿真结果表明优化后系统可实现一路下行、两路上行传输,且传输性能较好。此外文章对16-QAM、32-QAM调制格式下,系统传输距离、解复用器(Arrayed Wave guide Grating demux,AWG demux)带宽变化对ROF传输性能的影响,进行了仿真验证和分析。结果表明文章提出的基于相干检测技术的高性能ROF系统,在高阶QAM调制中传输性能表现良好且稳定,受AWG demux带宽影响较小,系统可实用性较好。