随着科技的迅猛发展,人们对于通信的高速率和高质量的要求日趋迫切。正交频分复用（OFDM,Orthogonal Frequency Division Multiplexing）技术已经被5G标准所采用。OFDM是多载波调制（MCM,Multi Carrier Modulation）技术的一种,可以实现串行数据的高速并行传输。OFDM系统的优势在于具有良好的抗频率选择性衰弱的能力、抗符号间干扰（ISI）能力和高效的频谱利用率,其已经成为移动通信领域的核心技术之一。OFDM系统的传输质量取决于其射频收发机的性能。直接变频收发机（零中频收发机）由于其体积小、能耗低、成本低等优势逐渐成为无线通信系统的主流发展方向。不过,直接变频收发机由于其模拟器件的非理想性,导致上变频和下变频时无法保证同相和正交支路90°的相位差,即产生IQ（In-phase and Quadrature-phase）不平衡,从而严重影响系统系能。如何弥补IQ不平衡对OFDM系统造成的性能损失是非常重要的研究方向。因此,本文针对这一具有重要现实意义的问题对OFDM系统中存在的IQ不平衡的估计和补偿算法进行了一定的研究。主要研究内容如下:（1）以OFDM系统中发射机和接收机同时存在IQ不平衡的情形为研究对象,分析了其系统模型并研究了信道联合估计的问题。借助信道剩余能量（CRE,Channel Residual Energy）的定义,通过最小化CRE,提出了发射机和接收机同时存在IQ不平衡时的信道联合估计方案。仿真结果表明该方案具有良好的性能。（2）针对OFDM系统中接收机同时存在IQ不平衡和载波频偏（CFO,Carrier Frequency Offset）的情况,分析了其系统模型并参考CRE的思路,将联合估计问题转化为特定情形下的优化问题。利用盲估计算法的通用性优势,提出了IQ不平衡、CFO和信道参数的联合估计方案,并讨论了残留的CFO较小的情况和多个OFDM块中的应用。仿真结果验证了该算法的性能优势和鲁棒性。（3）针对OFDM系统中同时存在发射机和接收机的IQ不平衡的情况,提出了一种高效的IQ不平衡补偿方案。本文提出了一种迭代的非线性最小二乘（NLS,Non-Linear Least Squares）算法,将系统模型归结为一个非凸优化问题。提出了一种迭代方法用来对非线性系统进行局部线性化,以实现次最优解决方案。该NLS算法经过三次迭代就能快速收敛接近相应的Cramer-Rao下界（CRLB,Cramer-Rao low bound）,具有较低的复杂度和较高的估计精度。仿真结果与理论分析结论保持一致。