随着移动通信、物联网的发展,对数据流量、接入数目的需求不断提升,在频谱资源有限的情况下,进一步提高通信网络的频谱利用率成为第五代(5G)无线通信研究的主要任务,非正交多址接入(NOMA)技术以其高频谱利用率、大量的接入数目成为研究的热点之一。同时,为了克服第四代(4G)通信中的正交频分复用(OFDM)技术的劣势,一些具有更高频谱利用率的新型调制格式被提出,如:滤波正交频分复用(f-OFDM)、偏移正交幅度调制的正交频分复用(OFDM/OQAM)等。另外,移动通信的快速发展带来了大量的能耗,光载无线(RoF)通信技术结合了光纤通信低损耗、高速率的特点和无线通信灵活性的优势,成为解决通信中能耗问题的方案之一。本论文的研究工作主要关注非正交多址接入技术中的构建块稀疏星座图多址接入(BOMA)技术,分析了BOMA的基本原理和应用场景,并通过实验验证了基于BOMA-OFDM的RoF系统的传输性能。本文主要研究内容包括了:(1)实现了基于BOMA与f-OFDM的RoF系统,在相同条件下实验传输了363Mb/s的BOMA f-OFDM信号和291Mb/s的OFDM信号,验证了该系统在下行链路中可将平均频谱利用率提升24.7%。另外,通过上行链路实验证明了f-OFDM支持异步传输的能力。(2)实现了基于BOMA-OFDM/OQAM的RoF系统,在一个两用户的RoF系统中分别传输了1.84Gb/s的BOMA-OFDM/OQAM信号和1.336Gb/s的OFDM信号,证明了基于BOMA-OFDM/OQAM的RoF系统可以将系统的频谱利用率在OFDMA系统的基础上提升37.7%。(3)提出了一种上述基于BOMA-OFDM/OQAM的RoF系统的优化方案。在一个三用户的RoF系统中,分别传输了1.38Gb/s的BOMA-OFDM/OQAM信号和1.15Gb/s的OFDM/OQAM信号。实验证明该方案与OFDM/OQAM系统相比,将系统的平均频谱利用率提升了19.9%,并将用户的传输性能提升了2dB。