大规模MIMO技术因能显著提高系统的频谱效率、增加链路的可靠性、提高能源效率及拥有更多的空间自由度,而成为第五代移动通信系统的关键技术之一。大规模MIMO系统因具有信道“硬化”的特性,能使检测算法达到最优的检测性能。但因在基站端配置了大量的天线,系统信号检测的计算复杂度变得相当高。因此,本论文重点研究了适合于大规模MIMO系统的高性能、低复杂度的检测算法。首先,本文介绍了大规模MIMO系统检测算法的研究现状、面临的机遇与挑战,并列举了关于大规模MIMO技术常见的误区。第二章详细介绍了ML、ZF-SIC、MMSE-SIC、ZF和MMSE等检测算法,并在平坦瑞利衰弱信道模型下,给出了算法检测性能的仿真对比分析。第三章分析了大规模MIMO系统的信道“硬化”特性:即随着基站端接收天线数的逐渐增加信道逐渐趋于确定性分布,并且信道状态信息主要分布在主对角线上,又称为对角占优。大规模MIMO系统中的线性检测算法都涉及到计算复杂度高的大矩阵求逆运算,主要通过诺依曼级数近似展开降低复杂度,但复杂度仍然较高。首先提出一种改进的大矩阵求逆运算方案:将大矩阵分解为对角矩阵和空心矩阵之和,再进行诺依曼级数近似,使得算法的复杂度从O(K~3)降低到O(K~2),并保证了系统检测性能。其次进一步提出了一种基于二对角矩阵分解的诺依曼级数近似算法:将大矩阵分解为以主对角线为中心的两条对角线上元素的矩阵与空心矩阵之和,并提出了二对角矩阵分解的方法求得逆矩阵。为提升计算效率,又提出了适合计算机并行计算处理的基于Frobenius矩阵分解的诺依曼级数近似算法:将大矩阵分解为具有对角线元素与取矩阵中一列的矩阵与空心矩阵之和。利用Frobenius矩阵的特性,求得逆矩阵,并对其做了优化处理。仿真结果表明:基于二对角矩阵分解的检测算法和基于Frobenius矩阵分解的检测算法的系统性能都优于基于主对角矩阵分解的检测算法;而优化的Frobenius矩阵分解算法相较于基于Frobenius矩阵分解的检测算法在性能与复杂度上均具备优越性。第四章提出将Cholesky分解和Sherman-Morrison公式直接应用于检测中大矩阵的求逆计算,即CSM检测算法,即可实现直接求逆而避免了在第三章中采用诺依曼级数近似而造成的性能损失,同时复杂度也可降低为O(K~2)。最后总结了大规模MIMO系统中所提出的检测算法存在的不足及有待解决的开放性问题。