本文介绍了当前通信技术中最常用的单载波和OFDM通信体制,其易受ICI和ISI影响,导致系统性能大幅下降。随着通信系统要求越来越高,通信环境日益复杂,如何有效的抵抗干扰受到广泛关注。针对传统通信体制存在的问题,本文主要研究了分数阶傅里叶变换这一新型时频信号处理工具。使用分数阶傅里叶变换模块代替传统OFDM系统中的傅里叶变换调制模块, WFRFT-OFDM系统作为一种混合载波调制系统,可以有效抵抗各种干扰噪声的影响。分数阶傅里叶变换可以被视为傅里叶变换的广义形式,在传统的OFDM系统中采用IWFRFT代替FFT进行运算,所以WFRFT-OFDM系统也可以说是传统的OFDM系统的广义形式。本文针对四项加权分数傅立叶变换的物理意义作了重点分析,指出基于这种形式的数字通信系统具有混合载波调制的特性。本文尝试用WFRFT代替传统OFDM系统中的FFT模块,将其扩展为WFRFT-OFDM系统。重点分析了时频双选择衰落信道下,同时存在ICI和ISI时,WFRFT系统的信号传输模型,定义信号干扰比(SIR)来表征系统的抗干扰性能,推导出SIR公式,进行建模仿真。由于WFRFT-OFDM系统同时存在单载波和多载波分量,其中多载波分量对由多普勒频移产生的ICI十分敏感,而时延扩展引起的ISI会对单载波分量产生较大影响,从而系统性能下降。但是经过加权的混合载波系统,由于其调制阶数的可选择性而拥有较低的ICI,而通过选取最优的阶次,WFRFT-OFDM系统比单载波和多载波系统具有更优的性能。