物理层安全技术可提供不依赖于计算复杂度的“绝对安全”,从物理层构筑信息安全的第一道屏障,是增强未来无线通信安全的重要手段之一。目前,单目标用户场景的物理层安全已被广泛研究,推动了物理层安全理论与关键技术的发展。而实际无线通信网络为多用户系统,其物理层安全研究相对复杂,仍有很多亟待解决的问题,如保密容量研究、保密信道编码设计、物理层安全传输性能分析与优化等。本论文主要围绕第三个问题展开,通过理论推导探索利用人为噪声(Artificial Noise, AN)、线性预编码、用户选择等手段保障多用户保密通信,并揭示信道状态信息(Channel State Information, CSI)、网络负载、功率分配(Power Allocation, PA)、窃听边信息等关键参数与保密传输性能之间的联系。具体研究内容和主要贡献如下所述。(1)针对AN协助的多用户保密通信系统,基于随机矩阵理论和大系统分析方法,推导了可达遍历保密速率的闭合表达式,分析了系统在理想和非理想CSI下的平均保密传输能力；研究了有用信号与AN之间的最优PA,得到了其在高信噪比时的闭式解,并量化地分析了信道误差对最优PA的影响,这些结论可直观揭示最优PA与关键参数之间的联系；针对非理想CSI引起的保密速率损失问题,推导了CSI反馈的扩展规律、最优导频序列长度等关键参数的闭式解,可为信道估计设计提供理论依据。(2)针对具有好奇用户的多用户系统在有限反馈下的保密传输问题,基于随机向量量化(Random Vector Quantization, RVQ)理论和量化微元逼近方法,推导了遍历保密速率的闭合表达式,分析了系统在有限反馈下的平均保密传输能力；推导了保持恒定保密速率损失所需的CSI反馈扩展规律,可直观揭示关键系统参数与CSI反馈的联系；研究了保密通信所需的最少CSI反馈,以及最大化保密速率的发送功率、网络负载,并通过对比无窃听多用户系统的结论,研究了系统为了对抗窃听所应付出的“代价”。(3)针对具有各自保密性需求的多用户系统,通过优化功率分配均衡所有用户的可达保密速率,进而最大化整体保密吞吐量或最小化功耗；建立了相应的PA优化模型,推导了全局最优解的必要条件,可用于迭代算法的收敛判定；针对迫零预编码方案,推导了全局最优解的解析解,并给出一种修改的注水算法；针对一般预编码方案,基于对保密速率表达式的一种下界变换,将非凸优化问题转换为凸优化问题,进而设计了一种PA迭代算法。这些算法可在满足所有用户保密性需求的同时,提升系统的整体保密性能。(4)针对具有个别好奇用户的多用户单入单出系统,基于次序统计理论,推导了最优用户选择策略的遍历保密中断概率,并证明了窃听边信息对保密性能、选择方案设计的重要作用；针对非理想CSI下的多用户多入单出系统,基于RVQ理论和量化微元逼近方法,推导了不同用户选择数对应遍历保密速率的闭合表达式；基于这些表达式,可以很容易地计算给定系统参数的最优用户选择数,进而提出一种AN协助的多模(即最优用户选择数)传输策略,可有效提升系统的平均保密速率。上述研究成果可归结为,针对多用户系统中的物理层安全传输问题,通过理论推导与分析,研究利用AN、预编码、功率控制、用户选择等手段保障或增强保密传输能力,并揭示系统关键参数与保密性能的联系,进而为面向物理层安全的信道估计、资源优化、用户调度等提供理论支撑。