在第五代移动通信系统中,大规模多输入多输出(MIMO)被广泛视为一种具有颠覆性的技术,通过在发送或者接收端架设多个天线,可以有效地开发空间资源,提高时域和频域的资源利用率,同时能够利用复用技术来增加信息的传输速率,利用诸如波束成形等分集技术来减小误码率,提升通信系统的性能。然而,大量的天线使大规模MIMO系统的硬件设计实现变得极其复杂化。尤其是在系统中每个接收天线都需要配置模数转换器(ADC)单元,使用大量的天线意味着需要数量庞大的模数转换器。开销和功耗的指数型增长导致了高位数的模数转换器成为实现大规模MIMO系统的主要瓶颈。解决这个问题的方法之一就是使用低位数的模数转换器。低位数的模数转换器存在诸多好处,包括可以减少电路复杂度,降低功率损耗,增加可实现性。利用低位数模数转换器,混合ADC的系统结构尤其适合大规模MIMO系统。本论文将围绕基于低位数模数转换器的大规模MIMO传输技术,重点研究混合ADC结构和多水平低位数ADC的应用方案。首先,本论文针对大规模MIMO的传输技术进行调研。围绕无线信道的衰落特征、空间复用与空间分集等方面介绍了无线传播环境和MIMO基本原理,对MIMO传输与MIMO信道进行了建模并且计算了SISO、SIMO、MISO与MIMO系统的信道容量,接下来重点介绍了MIMO系统中的信号检测技术,包括三种线性检测器和三种非线性检测器。其次,本论文研究大规模MIMO系统的混合ADC设计方案。在混合ADC的接收结构中,大部分天线配置低位数的模数转换器,剩下的少部分天线则配置高位数的模数转换器,本文从实际的应用角度验证了混合ADC大规模MIMO系统的性能情况。介绍了该方案所采用的系统模型,包括多用户场景下的上行链路传输模型以及混合ADC大规模MIMO结构,然后推导了一组广义贝叶斯检测器,它们由贝叶斯推论推导而来,在一个相同的结构下发展成一族MIMO检测器,接下来阐述混合ADC的设计方案,包括证明了量化步长对系统性能的影响并给出了一系列量化步长的最优值,之后证明了混合ADC结构的优势,并且在混合ADC结构的基础上引入了对高位数ADC的天线进行优化分配,进一步通过仿真评估大规模MIMO系统中基于混合ADC结构设计方案的性能。仿真结果表明：量化步长取最优值,采用混合ADC结构以及对高位数ADC的天线进行优化分配都能够有效提升大规模MIMO的系统性能。最后,本论文提出了一种大规模MIMO系统中多水平低位数ADC的应用方案,即在混合ADC结构的基础上,用1-3比特的低位数ADC替换7比特ADC。介绍了该方案使用的系统模型,包括多用户场景下的上行链路传输模型以及多水平ADC的结构,然后对状态演化方程进行研究,状态演化方程适用于刻画由GAMP算法推导的贝叶斯检测器的性能,包括广义贝叶斯检测器的状态演化分析以及DQ最优、PDQ最优和线性三种贝叶斯检测器具体的状态演化表达式,接下来阐述多水平低位数ADC替换高位数ADC的应用方案,重点介绍了用1-3比特的ADC替换7比特的ADC,之后还给出了一种功率消耗模型并通过计算说明了多水平低位数ADC需要的功率消耗更小,通过仿真分别验证了状态演化分析的准确性和提出的新方案在大规模MIMO系统中的性能。仿真结果表明：状态演化分析的理论结果与计算机的仿真结果基本一致,多水平低位数ADC替换高位数ADC可以得到更好的系统性能,并且有效地降低了硬件开销和功率损耗。