无人机的高度机动性允许通信运营商迅速灵活地部署通信基础设施,所以无人机通信在未来移动通信产业中拥有巨大的应用前景。然而,由于空对地(A2G)通信相较于地面通信更容易遭受恶意地面节点的窃听攻击,无人机通信面临严峻的安全挑战。与基于密钥体系的传统通信安全技术不同,物理层安全技术利用信道特征来保证信息的传输安全,不需要安全密钥,从而避免了密钥的分发和管理中存在的安全漏洞。作为影响信道质量的关键因素,A2G信道特性和无人机的移动性会给无人机通信中的物理层安全带来新的挑战和机遇。然而,无人机通信中的物理层安全传输技术尚处于起步阶段,大量的相关问题亟待研究解决。本文首先研究了无人机通信中的平均安全速率最大化问题。无人机的移动性为通信网络设计带来了新的自由度,本文通过设计传输功率以及无人机轨迹来提高平均安全速率。所考虑系统由地面信源、无人机中继、地面合法接收机和地面窃听端构成,由无人机中继将信源的信息转发给合法接收机。在该场景下,本文建立了一个以实现平均安全速率最大化为目标的优化模型,该模型以信源和中继的传输功率以及无人机的坐标为自变量。平均安全速率最大化问题是一个大规模非凸优化问题,难以求解。本文通过交替优化方法将该问题分解为功率分配子问题和轨迹设计子问题进行求解。针对功率分配子问题,提出了一种基于凹凸过程(CCCP)的迭代算法,并通过拉格朗日对偶方法得到CCCP迭代的半闭式解。对于一种对称轨迹下的功率分配子问题,证明了信息因果性(IC)约束可以在不失最优性的前提下被移除,并以闭式解的形式得到了信源传输功率的最优解。针对轨迹设计子问题,提出了一种基于序列凸规划(SCP)的迭代算法。在一种中继传输为性能瓶颈的场景下,以闭式解的形式得到了轨迹设计子问题的最优解。基于功率分配算法和轨迹设计算法,提出了平均安全速率最大化交替优化算法。仿真结果显示,所提出算法可以有效地提升系统的平均安全速率。然后,本文从提升安全能效的角度研究了无人机通信中的物理层安全传输问题。安全能效是衡量物理层安全传输性能的重要指标,而由于无人机推进能量消耗巨大,携带的能量却十分有限,安全能效对于无人机通信中的物理层安全传输甚至更为重要。因此本文通过对无人机的飞行轨迹和传输功率进行设计来提高安全能效。所考虑系统由固定翼无人机、地面合法接收机和地面窃听端构成,由无人机向合法接收机传输保密信息。在该场景下,本文建立了一个以实现安全能效最大化为目标的优化模型,该模型以无人机的坐标、速度、加速度和传输功率为自变量。安全能效最大化问题的结构十分复杂,难以求解。本文通过交替优化方法将该问题分解为功率分配子问题和轨迹设计子问题进行求解。针对功率分配子问题,提出了一种基于CCCP的迭代算法,并通过拉格朗日对偶方法得到CCCP迭代的闭式解。针对轨迹设计子问题,提出了一种基于SCP和丁克尔巴赫方法(Dinkelbach’s method)的迭代算法。基于功率分配算法和轨迹设计算法,提出了安全能效最大化交替优化算法。仿真结果显示,所提出算法可以有效地提升系统的安全能效。最后,本文从实现多点安全传输的角度研究了无人机通信中的物理层安全传输问题。传统的多点传输系统中,由于传输端无法移动,远距离用户与传输端之间的瓶颈链路会限制系统性能,而无人机辅助的多点传输技术可以通过自适应轨迹设计来克服这个问题。本文考虑了在多个地面窃听端存在的情况下,使用一个无人机向多个地面合法接收机传输公共信息的场景。在该应用场景中,无人机不仅需要高效地将信息发送给所有合法接收机,还需要防止信息被窃听端截获。由于瓶颈链路的限制,无人机很难在单个传输点完成安全传输任务。因此,本文提出了一种基于虚拟基站的多点安全传输方案。虚拟基站设立在不同的位置上,当无人机飞抵这些位置,即开始服务一部分合法接收机。无人机会遍历所有位置,从而保证所有合法接收机都能安全地接收到公共信息。为了对合法接收机进行分组,并确定各组合法接收机对应的虚拟基站的部署位置,本文提出了一个改进N中心问题。该问题为NP难问题。本文提出了基于栈的深度优先分支定界算法和改进最小闭包球(AMEB)算法来求解改进N中心问题。随后,通过旅行商算法对虚拟基站的访问顺序进行优化。仿真结果显示,所提出的安全传输方案可以有效地减少无人机完成多点安全传输任务所需要的时间。为了应对无人机通信所面临的窃听威胁,本文研究了无人机通信中的物理层安全传输技术。本文利用凸优化理论、分支定界算法和旅行商算法等工具,从提升平均安全速率、提升安全能效和实现多点安全传输三个角度为无人机通信中的安全传输问题提供了解决办法,有助于无人机通信系统的广泛应用。