随着越来越多的互联网和多媒体应用融入无线网络,用户对于高速宽带无线通信业务的需求不断增长。为了满足下一代移动通信系统高速率、广覆盖的要求,正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)和多输入多输出(Multiple Input Multiple Output, MIMO)技术已经成为其物理层核心技术。其中,MIMO预编码技术作为MIMO技术的一个重要分支,由于性能良好、结构简单,受到了广泛关注。另一方面,在时分双工(Time Division Duplex, TDD)系统中,可以利用其特有的信道互惠性,使发送端在不需要反馈开销的情况下获得传输信道信息,非常有利于MIMO预编码技术的实现。本论文对TDD系统中的预编码技术进行研究,首先介绍了MIMO技术、OFDM技术和TDD模式的基本原理,然后对于有效利用TDD系统信道互惠性的两大关键技术——信道估计和MIMO传输展开深入研究。论文的主要工作及创新性研究成果如下：针对实际OFDM系统中存在虚载波的情况,从理论上定量分析了虚载波对信道估计算法的影响,并在此基础上,分别基于时域迭代和频域信道预测这两种思想,提出了两种信道估计的算法,有效改善了虚载波带来的时域信道能量泄露,提高了信道估计的性能。针对MIMO检测算法,在现在广泛应用的K-Best球形译码检测算法的基础上,提出了一种MIMO系统中基于宽度优先的低复杂度球形译码检测方法,该方法通过把对每一层检测中保留候选节点的部分拆分为两步的思路,大大减少球形译码过程中遍历的星座点数目,同时保证了球形译码的性能优势。针对信道时变性会导致不理想的信道互惠性这一问题,分析了信道时变性对MIMO传输的影响,并在考虑了由信道时变性引入的子信道间干扰的基础上,分别基于寻找匹配的发送端预编码矩阵和接收端解码矩阵,以及接收端进行有效的子信道干扰删除这两种思想,提出了两种联合发送-接收设计的MIMO传输算法,并从理论方面论证了它们的性能和复杂度优势。