近年来,智能终端设备的不断普及使得移动数据需求飞速增长,给无线通信系统带来了巨大的挑战。传统的正交多址接入（Orthogonal Multiple Access,OMA）技术为用户分配正交的时频资源,频谱利用率较低,随着第五代（the 5th Generation,5G）移动通信系统的推进,非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术允许用户利用非正交的时频资源进行通信,具有频谱利用率高、传输速率高和接入用户数多等性能优势,受到了人们越来越多的关注。因此,本文将对非正交多址接入系统中的功率控制、用户分组等关键问题展开深入研究。首先,论文研究了上行NOMA系统的系统和速率最大化问题。论文首先研究了无用户服务质量（Quality of Service,QoS）约束的情况,将所形成的优化问题转化为标准凸问题,提出了一种基于迭代注水的功率控制算法。随后,论文研究了有用户QoS约束的情况,利用拉格朗日方程和KKT条件获得了组内最优功率控制闭式解,并提出了一种基于连续凸逼近的次优功率控制算法。最后,论文通过仿真验证了所提功率控制算法的系统和速率性能明显优于传统算法。随后,论文研究了上行NOMA系统的功率控制与用户分组联合优化问题。论文首先建立了最大化系统和速率的优化问题,在考虑用户QoS约束和用户最大发射功率约束的情况下,得到了组内最优功率控制闭式解。随后,论文分别提出了基于稳定匹配、交换匹配和模拟退火的三种用户分组算法,利用少次迭代即可完成用户分组与子载波指配。最后,论文提出了一种低复杂度的联合优化算法,迭代优化功率控制与用户分组方案。仿真结果验证了所提联合优化算法的性能优于传统算法,且基于模拟退火的优化算法具有最高的系统和速率。最后,论文研究了上行NOMA系统的用户平均错误概率最小化问题。论文首先对基于长包传输的用户错误概率进行了分析,通过理论推导,得到了不完美串行干扰消除（Successive Interference Cancellation,SIC）情况下的用户错误概率表达式。随后,论文通过分析平均错误概率对功率控制比的一阶偏导数,提出了一种最优的功率控制方案。接着,论文进一步研究了基于短包传输的用户错误概率,并获得了错误概率表达式和最优功率控制方案。最后,论文通过仿真验证了所得表达式的准确性,且所提功率控制方案能够获得最小的平均错误概率。