毫米波大规模多输入多输出（Multiple input multiple output,MIMO）技术已经被认为是未来无线通信的关键技术之一,它充分利用了空间资源,可以在不增加带宽的情况下大幅度提高系统的频谱效率（Spectral efficiency,SE）,但随着基站端天线数量的急剧增加,毫米波大规模MIMO系统的功耗问题已经成为未来无线通信发展的瓶颈问题,探求能量效率（Energy efficiency,EE）最大化的最优部署已经成为当下最热门的研究课题。针对毫米波大规模MIMO系统中亟待解决的功耗问题,本文从减少射频（Radio frequency,RF）链路使用数量的角度出发,深入研究了非正交多址（Non-Orthogonal multiple access,NOMA）背景下的波束选择和功率分配技术。本文的主要研究内容如下:首先,本文的波束选择和功率分配算法都需要在波束空间下进行,所以本文应用了三维（Three-Dimensional,3D）透镜天线阵列将传统空间转变为了波束空间,并且为了提升系统的SE,文中引入了NOMA技术,使得一条波束可以同时服务多个用户。其次,功率分配算法是提高系统SE和EE的有效手段,但目前的功率分配算法未考虑RF链路使用数量过多而引起的系统功耗过大的问题。因此,在研究功率分配算法前,本文先深入研究了干扰感知（Interference-aware,IA）波束选择算法,该算法通过选择少量幅值最强的波束来服务用户,从而减少RF链路使用数量。然而,干扰感知波束选择算法中存在非干扰用户SE较差的问题,这会导致系统整体的EE较差,故本文在干扰感知波束选择算法的基础上进行了改进,本文将改进的算法称为改进的干扰感知波束选择算法。改进算法利用最大幅值原理选出合适的波束,通过用户分组解决其中存在的用户间干扰问题,然后利用增量/减量算法为干扰用户和非干扰用户选择最优波束,保证了系统SE接近全数字系统的条件下,系统的EE大幅度提高。最后,在波束选择算法的基础上,本文提出了功率分配迭代（Power allocation iteration,PAI）算法,该算法通过为波束选择算法选择到的波束解决波束内干扰和波束间干扰来有效提高系统的EE,在数学上体现为求解非凸优化问题。仿真结果表明,本文改进的IA波束选择算法解决了用户间干扰问题并且通过增量/减量算法为非干扰用户提供使系统和速率最大的波束,使得系统的SE和EE都有了明显的提升。其次,本文在提出的PAI算法中通过解决波束内和波束间干扰,使得系统的EE性能得到进一步提高。