随着移动互联网和物联网的快速发展,越来越多的应用场景应运而生,无线业务流量需求迅猛增长,迫切需要发展第五代移动通信(5G)以适应新的需求。在波形方面,正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)技术在4G中发挥了很大的作用,但同时也存在一些缺点,特别是其严格的正交性和较大的旁瓣损耗。对于5G极高的性能要求,学术界提出使用滤波器组多载波调制(Filter Bank Multi Carrier,FBMC)技术,提高频谱效率,减小旁瓣损耗。与OFDM相比FBMC拥有优越的频谱效率,较小的带外泄露,宽松的同步要求等优点。本文在美国国家仪器(National Instrument,NI)的通用软件无线电外设可重置设备(USRP-RIO)上,从硬件实现的角度对FBMC技术关键模块进行研究并设计一套FBMC系统原型验证机,在实际场景下进行测试和评估,发掘FBMC技术的潜力。主要工作如下:首先,对FBMC系统基带处理的关键模块进行了原理分析、系统仿真。在原理分析部分,主要研究了FBMC与OFDM原型滤波器的不同以及频谱效率的差异,并对FBMC中增加的偏置正交幅度调制(Offset Quadrature Amplitude Modulation,OQAM)的原理和扩展FFT的原理进行了详细研究。在系统仿真方面,比较了FBMC和OFDM的功率谱以及多径衰落、定时偏差、载波频偏对两者性能的影响,结果表明FBMC具有较小的带外泄露、较高的频谱效率以及宽松的载波同步要求。其次,在NI USRP-RIO硬件平台上设计了FBMC系统的硬件架构,在该架构下对系统链路的数据处理流程进行了详细研究和分析。针对FBMC频域扩展带来的有效速率下降问题提出了一种适合于FBMC的并行硬件实现方法。首先将输入数据按照原型滤波器的重叠因子分K路并行传输,接着设计偏置正交幅度调制模块以及滤波器模块,经过扩展IFFT之后将FBMC的波形混合操作与并行处理相结合,既简化了波形混合模块又给系统带来了K倍速率的提升,此外设计了特殊的导频来实现FBMC信道估计与均衡。在USRP-RIO硬件平台上搭建完整的FBMC无线传输系统,系统采样速率达到80MS/s,实时数据传输速率达到100Mb/s,数据传输带宽为四路20MHz。最后实测结果表明,所提出的并行硬件实现方法能完成速率的提升并且能支持实时传输高清视频。最后,针对FBMC中OQAM技术难以和多输入多输出(Multiple input multiple output,MIMO)结合的问题,分析FBMC-OQAM中的干扰,受到系统干扰特性的启发,本文提出了一种低复杂度的MIMO-FBMC系统方案,该方案只使用奇数或偶数子载波进行信号调制,消除了载波间干扰和符号间干扰,使得FBMC与MIMO能够很好地结合。仿真结果表明,使用非相邻子载波的FBMC系统的抗干扰能力强,系统性能更优。此外本文通过并行处理方式来补偿只使用非相邻子载波带来的系统效率下降,并在此基础上设计该低复杂度系统的硬件架构。