波达方向(Direction of Arrival,DOA)估计被广泛应用于雷达、通信、电子侦察等众多领域,是当前阵列信号处理最主要的研究热点问题。对于无线移动通信系统来说,用户的有效位置信息对于信息的准确可靠的传输有着至关重要的作用,而DOA估计可以实现用户来波方向的角度参数估计,给出具体位置信息。目前,大规模MIMO技术由于其突出的优势被应用到5G移动通信当中,为通信系统带来了更高的传输速率,提升了系统的容量。此外,该技术有效的降低了干扰,增强了覆盖范围,让整个组网更加灵活。所以大规模MIMO技术成为当前研究学者的重点研究方向。而波达方向估计由于其众多的优势,对于通信系统有着不可忽视的重要性。宽带信号与窄带信号不同,其拥有较强的抗干扰能力、携带较多的信息量、与噪声的相关性较小。因此,在通信当中,宽带信号拥有更加广泛的运用。但是宽带比窄带信号的运算过程更加复杂,难以实时实现。所以本文将面向宽带信号的DOA估计展开研究,在解决宽带DOA估计复杂度高的问题的同时,将其更好的运用到大规模MIMO系统中。宽带信号DOA估计算法主要分为两类,一类是非相干信号子空间估计算法(ISM),一类是相干信号子空间估计算法(CSM)。和ISM类算法相比,CSM类算法具有计算量小、分辨率高等优点,最重要的是可以估计相干信号源。所以本文以CSM类算法为基础,重点研究构造聚焦矩阵的方法和准则,针对大多数相干信号子空间估计算法需要角度预估的问题,提出一种新的聚焦矩阵方法。此方法无需角度预估,且计算量较小的。为了进一步解决算法在大规模MIMO系统下计算复杂度高、实时性差的问题,本文提出了一种基于PCA神经网络的宽带DOA估计改进方法。PCA神经网络在进行信号子空间估计时,无需事先样本训练,也不需要对阵列协方差矩阵进行特征值分解,只需要通过有限次的自组织学习就可以估计出网络权值,得到信号子空间。所提算法计算量小,时效性强,适合大规模MIMO系统。之后,通过使用AIC准则对PCA神经网络信号子空间估计提供更加准确的子空间维数,使得所提算法拥有更加良好的性能。通过大量的仿真实验分析可得,在小快拍数、低信噪比下,改进算法仍然可以准确的估计出信号源的到达角度。