当今社会,无线通信技术高速发展,越来越多的智能终端设备接入无线网络,人们逐渐步入5G时代,对通信系统的要求也变得更高。为了满足未来通信技术在节点密度、通信速率和频谱利用率等多方面的需求,大规模多输入输出（Massive MIMO）技术被广泛采用,它作为5G的一项关键技术,表现出重要作用和巨大潜力,成为了现今的研究热点之一。对于大规模MIMO,信号的检测性能决定了MIMO系统性能的优劣,而受增加的天线阵列影响,信道环境变得格外复杂,这对接收端信号检测的精度和复杂度都带来了挑战。因此,为解决高计算复杂度和较差检测性能的困境,本论文对信号检测算法进行重点研究,主要工作如下:1首先介绍了MIMO系统的信号模型,然后分析比较了几种信号检测算法,利用MATLAB仿真软件对介绍的算法在不同环境下进行误码率的分析对比,并讨论了它们的计算复杂度。2在切比雪夫迭代（CI）的基础上,提出了低复杂度高性能的耦合切比雪夫迭代（CCI）检测算法,实现了比传统线性检测算法更接近MMSE的误码率性能。CCI算法引入一个方向向量,提高检测过程相关迭代量计算的并行性,并且避免了传统检测算法涉及的复杂大规模矩阵逆运算,减少了矩阵和矩阵以及矩阵和向量的乘法计算,加快了迭代过程,从而大幅降低算法复杂度。3将信号检测模型转化为凸优化问题,先利用凸优化方法中的交替方向乘子法（ADMM）的快速收敛特性得到初解,然后改进了邻域搜索算法（NSA）,对向量的每个元素在其邻域上进行搜索优化,避免原算法搜索过程的复杂性。结合ADMM算法提出一个高收敛速率高检测性能的算法N-ADMM,得到了更好的误码率性能同时又使复杂度保持在较低的数值。