未来通信场景具有超高流量密度、超高连接数、超高速率等特征,因而未来无线通信系统的部署面临巨大挑战。在传统的正交多址接入(OMA)技术中,通常为每个用户分配单独的无线资源,例如时间、频率等。非正交多址接入技术允许多个用户共享同一无线资源,从而大大提升用户连接数和系统容量,并降低设备功耗,成为下一代无线通信系统的候选关键技术之一。功率域作为一种新的复用资源,为非正交多址接入技术提供了一个重要的额外设计维度。因此,合理的功率分配对于提升非正交多址接入系统的频谱效率和用户公平性等性能指标具有重要意义。本论文主要研究非正交多址接入系统的功率分配优化设计算法,并对相关理论问题和系统性能指标进行分析。本论文的研究将涉及完备和非完备的信道状态信息(CSI)条件下的单天线、多天线和毫米波(mmWave)通信场景,以及多小区协作场景。已有基于功率域的非正交多址接入(NOMA)系统通常采用完备CSI假设和固定NOMA设计,即固定功率分配和固定解码顺序。由于系统开销的限制,通常难以获得完备的CSI,因而将导致NOMA系统用户遭受服务中断,降低NOMA带来的性能增益。本文研究了已知信道二阶统计特性的单天线非正交多址接入(SISO-NOMA)系统用户的中断概率与NOMA中最优解码顺序之间的关系,得到了以最小化发送功率和最大化用户公平性为优化目标的最优功率分配的闭合表达式。进而,推导了满足用户相同中断概率限制下的NOMA和OMA需要的发送功率差异。结果表明,在相同中断概率需求限制下,NOMA需要的发送功率总是少于OMA。此外,不同于传统的高斯输入信号假设,针对下行多用户稀疏码多址接入(SCMA)系统,提出了一种有限比特信号输入限制的最优功率分配策略。结果表明,与等功率分配策略相比,所提出的功率分配策略可以有效地提高SCMA系统的用户公平性。已有的多天线非正交多址接入(MIMO-NOMA)系统通常基于固定的系统配置,如完备CSI和固定用户数簇目等。本文研究了两种不完备CSI模型下,单个小区中包含多个用户簇的MIMO-NOMA系统的效用函数(Utility Function)优化问题。针对已知信道分布信息(CDI)条件下的MIMO-NOMA系统,推导了MIMO-NOMA系统用户中断概率的闭合表达式,进而利用一阶近似和半正定规划(SDP),提出了一种基于串行凸近似(SCA)技术的联合功率分配和波束成形设计算法。针对信道估计不确定性模型,利用中心极限定理(CLT)推导了MIMO-NOMA系统用户中断概率的近似表达式,并提出了一种基于SCA和一维搜索的迭代算法。此外,分析了两种算法的收敛性和可实现问题,并提出了一种有效的初始化算法。结果表明,利用所提出的两种算法,MIMO-NOMA系统的频谱效率和用户公平性均优于传统的多天线正交多址接入(MIMO-OMA)系统。另外,针对完备和非完备CSI的MIMO-NOMA系统,提出了一种基于发送功率最小化的迭代功率分配和波束成形算法。为了提升NOMA系统在mmWave频段的性能增益,本文设计了一种基于分支定界(BB)技术的最优功率分配和用户调度算法,并分析了基于最优解码顺序的mmWave-NOMA系统的最大和速率,得到了系统和速率的最优上界。论文提出了一种基于匹配理论和SCA技术的低复杂度算法,实现计算复杂度和性能的折中,并分析了所提算法收敛性和复杂度。结果表明:提出的低复杂度算法可以获得接近最优的性能;对于系统和速率和服务用户数,提出的mmWave-NOMA系统优于传统的毫米波正交多址接入(mmWave-OMA)系统。所得结果对于mmWave-NOMA系统的功率分配和用户调度的设计具有指导意义。由于NOMA用户分簇的组合特征,mmWave-NOMA系统的和速率优化问题求解十分困难。为此,本文提出了一种基于机器学习的mmWave-NOMA系统设计框架。考虑用户在单小区服从随机空间簇分布,利用mmWave-NOMA系统中用户信道的相关性特点,本文提出了一种基于K-means的机器学习算法以实现mmWave-NOMA系统的用户分簇;针对用户的连续到达实际场景,提出了一种基于K-means的在线用户分簇算法,以降低计算复杂度。另外,利用串行解码特征推导了最优功率分配系数的闭合表达式。结果表明:与传统的用户分簇算法相比,提出的机器学习框架可以获得接近最优的性能;所提出的基于K-means的在线用户分簇算法可以获得与重复用户分簇算法相似的性能,从而可以获得性能和计算复杂度的平衡。由于用户体验质量(QoE)已逐渐成为用户服务满意度的重要评价指标,本文分析并优化了多小区多载波(MC)-NOMA网络的QoE性能。通过采用用户的平均意见分数(MOS)函数来量化网络中用户的QoE,根据组合变量和连续变量的特征,将原始QoE优化问题分解成为两个子问题并分别求解;对于组合子问题,将用户、基站和子信道之间的关系描述为一个三维匹配问题,提出了一种两步求解算法。对于连续的功率分配子问题,利用分支定界(BB)方法来获得最优解。另外,提出了一种基于SCA的低复杂度次优算法,用于实现计算复杂度和最优性能之间的折中。结果表明:提出的NOMA网络在QoE方面优于传统的OMA网络;所提出的基于和MOS(sum MOS)最大化算法与基于和速率最大化算法相比,可以提高多小区MC-NOMA网络的公平性。