随着多种传输速率超过吉比特每秒的高速应用逐步走进人们的生产生活，现代生产和生活对高速高质量无线通信服务的需求日益强烈。60GHz无线通信技术凭借其高达7GHz的带宽、低成本CMOS器件可实现以及高达10W的发射功率等优势，成为近距离实现Gbps级高速传输的无线通信的热门技术。但是由于路径损耗严重，60GHz无线通信在实现中遇到了困难，波束成形技术能够改善传输质量，提升系统容量，很好地解决了60GHz无线通信遇到的难题；同时波束成形技术满足60GHz系统低功耗、低设备复杂度的要求，因而成为60GHz无线通信系统的关键技术之一。本文通过研究60GHz无线通信系统中的波束成形技术，在对波束成形技术基本原理进行深入分析的基础上，全面探讨了现今60GHz系统中波束成形的主流技术，包括波束码本设计、波束搜索算法、DOA信息精确估计等关键研究内容，本文的主要工作有以下几个方面：第一，研究了IEEE802.15.3c标准中的波束成形码本设计方案以及前人提出的一种3c码本的改进方案——N相位码本设计方案，并进行了基于窗函数的码本设计方案研究，通过MATLAB仿真，从主瓣宽度、旁瓣高度、阵增益、稳健性等方面比较了各种码本的性能，并进行应用分析。第二，深入研究了IEEE802.15.3c标准中给出的基于遍历的搜索算法，在此基础上提出了两种性能更优的波束搜索算法，通过理论推导得出其算法复杂度等性能参数。第三，对自适应波束成形技术中的DOA信息精确估计方法进行了深入研究，主要是最小方差无畸变响应MVDR（Minimum Variance Distortionless Response）算法、驾驶最小方差STMV（Steered Minimum Variance）算法和MUSIC算法等的理论推导和MATLAB仿真。提出了一种能够改善MUSIC算法性能的基于驾驶协方差矩阵STCM（Steered Covariance Matrix）的MUSIC算法，将上述算法应用于60GHz信号的DOA估计，并进行理论分析和仿真实验。通过对60GHz无线通信系统波束成形技术的研究，得到了如下几项成果：第一，采用窗函数加权函数进行码本设计，深入研究了基于切比雪夫窗函数码本的性能，重点讨论了切比雪夫窗函数的参数对波束码本性能的影响，为基于切比雪夫窗函数码本的应用提供了参考。第二，在现有波束搜索算法基础上，提出了两种新的波束搜索算法——自适应扇区级波束搜索算法和逐级扇区波束搜索算法。通过理论分析和MATLAB仿真，验证了这两种算法在搜索复杂度分别为o(N)和o(log2N)，明显优于IEEE802.15.3c和IEEE802.11ad标准中的波束搜索算法，且保证接近100%的搜索成功率。第三，将驾驶最小方差STMV算法应用于60GHz信号，达到了处理宽带信号时估计方差小、空间分辨率高的特点。提出基于驾驶协方差矩阵STCM的MUSIC算法，应用于60GHz信号的DOA估计，通过理论分析和仿真实验结果验证了两种算法的在DOA精度和计算稳定性方面的优越性。60GHz信号能量高度方向性的特点和60GHz系统低功耗、低设备复杂度的要求，决定了波束成形技术成为60GHz无线通信领域的关键技术。本文全面研究了60GHz无线通信中的波束成形技术，包括基于波束搜索的切换波束成形技术和自适应波束成形技术。一方面，分析了基于窗函数的码本设计方案，并提出性能更优的波束搜索算法；另一方面，将几种经典的自适应算法用于60GHz信号的DOA信息精确估计，得到了较好的效果，文章取得的研究成果对于60GHz无线通信具有重要意义。