非正交多址接入（NOMA）技术作为第五代（5G）移动通信网络的关键技术,可以有效提高系统频谱效率,实现大带宽、广连接、低功耗的业务需求,在工业、医疗和农业等领域将得到广泛应用。然而,广连接特征使得设备信息安全传输受到严重挑战,如何确保信息的安全传输值得深入研究。物理层安全技术利用无线信道的随机特征而确保无线通信信息安全传输,成为业界关注热点。本论文考虑实际通信系统硬件设备状态,对非理想硬件条件的下行链路NOMA系统的物理层安全性能进行了深入研究。主要研究工作及成果总结如下:1.在实际通信系统中,收发器硬件设备存在各种类型的硬件损耗（RHI）,而RHI估计不准确会严重影响实际应用时系统参数的设计。为了研究RHI对中继协作NOMA系统物理层安全性能的影响,本文首次建立了基于RHI的单窃听多中继协作NOMA系统模型,分析了该系统下的物理层安全性能。其次,为了提高物理层安全性能,提出了一种联合考虑合法链路和窃听链路信号信息,从而使系统目标信噪比最大化的中继传输方案,用安全中断概率（SOP）来表征该系统的物理层安全性能。最后,推导了渐近情况下的SOP,以此来直观地衡量安全中断性能。仿真结果显示,相比于两种传统中继传输方案,本文所提出的中继选择方案能获得更好的性能,且通过增加中继个数能够提高物理层安全传输。此外,当系统存在RHI时,会影响系统的SOP,并且不同节点处的RHI对系统物理层安全性能造成的影响程度也不同。2.为了进一步提高所考虑系统的物理层安全性能,本论文考虑利用6G可重构智能表面（RIS）技术来调整无线环境,增强覆盖范围和容量,将RIS与NOMA技术相结合提高系统传输性能。基于此,本文建立了基于RHI的单窃听RIS辅助下行NOMA系统模型,研究RHI对该系统物理层安全性能的影响。具体地说,首先基于该模型推导了用户的SOP近似闭合表达式,为了进一步研究在正交多址接入（OMA）系统中部署RIS,与在NOMA中部署RIS对安全性能影响有何不同,仿真部分将上述两种系统在安全中断性能方面进行了比较。结果表明,与传统NOMA系统以及RIS辅助OMA系统相比,RIS辅助NOMA系统能获得更好的安全性能。此外,RHI对系统性能的影响程度取决于信噪比大小、目标数据速率快慢以及反射单元数量多少。