毫米波技术和大规模MIMO相结合可以极大的提高系统的频谱效率和系统容量,因此毫米波大规模MIMO技术被广泛认为是5G的关键技术之一。为了利用毫米波大规模MIMO技术的优势,需要有效的进行信道估计。但是由于天线数目远大于射频链路数目,且信噪比在波束成型之前较低,毫米波大规模MIMO系统信道估计面临挑战。因此研究高效的毫米波大规模MIMO信道估计方法很有必要。传统的信道估计方法,如最小二乘算法和最小均方误差算法,在毫米波大规模MIMO系统中因导频开销过大而不再适用。毫米波大规模MIMO信道在角度域呈现稀疏特性,信道估计问题可以建模为稀疏信号恢复问题,采用压缩感知算法完成信道估计。此外,基于自适应压缩感知的信道估计方法可以在低信噪比时取得更好的估计性能。本文重点研究了基于自适应压缩感知的高效信道估计方法设计。在研究内容方面,首先,本文比较了基于自适应压缩感知的信道估计方法和基于压缩感知的信道估计方法的信道估计性能。其次,为了解决自适应压缩感知算法在码本空间过大时复杂度过高的问题,本文提出基于迭代网格的自适应压缩感知中的码本设计方法。最后,本文提出最小化传感矩阵平均互相关值的准则,并通过优化天线分布以降低传感矩阵的平均互相关值。仿真结果表明,自适应压缩感知算法可以在低信噪比时取得较优的信道估计性能。此外,本文提出的码本优化算法和优化天线分布方法可以显著的降低自适应压缩感知算法的复杂度,提高信道估计的性能。