随着第五代(5G)移动通信技术的发展,大规模MIMO受到学术界和工业界的高度关注。通过增加天线数目,大规模MIMO可以大幅度提升频谱效率和能量效率,因此成为5G的关键技术之一。但随着用户数与基站端天线数的增多,基站端处理信号的复杂度与功耗也会大幅增加。不仅如此,复杂的信道模型和高维的信道矩阵也会令传统的信号检测方法面临巨大的挑战。因而,研究低复杂度、高性能的信号检测算法就显得尤为重要。近年来,深度学习在图像以及语音处理领域获得巨大的成功。它具有较强的深层网络结构学习能力,因此能够实现对复杂函数的逼近。而将深度学习这一优势与大规模MIMO相结合,可以为信号检测提供一个新方案。本论文的主要工作如下:首先研究了不同信道和不同调制方式下,基于全连接层和残差网络的大规模MIMO上行链路信号检测技术。具体而言,先利用全连接层搭建一个简单的深度神经网络,再通过实验仿真来确定一个较优的网络层数,之后将训练好的网络与传统的方法进行了误码率性能的对比。根据仿真结果发现,全连接层的简单结构难以获得最优的误码率性能,因此,本文重新选取卷积神经网络来搭建更适用于大规模MIMO信号检测的残差网络结构,同时将信道状态信息引入训练用以提高训练效率。最后,通过实验将基于全连接层、基于残差网络的信号检测算法以及传统方法的误码率性能进行对比。仿真结果证明在毫米波平坦衰落信道以及病态信道环境的条件下,基于残差网络的算法利用各种调制方式性能均能达到最优。其次,为了将降低大规模MIMO的实现成本,本文在先前所提算法的基础上,进一步研究结合低分辨率模数转换器(ADC)的信号检测技术。首先,对残差网络的输入信号进行量化处理,然后,在瑞利平坦衰落信道以及病态信道环境下进行实验仿真。结果显示残差网络同样适用于低分辨率ADC系统下的信号检测。不仅如此,相比传统的线性检测方法,基于深度学习的检测方法在较低的ADC量化比特下具有更优的误码性能。