由于无人机(Unmanned Aerial Vehicles,UAV)的高移动性能和低成本,以及良好的视距传输性能(Line of Sight,LoS),无人机辅助的无线通信系统被认为是下一代无线通信系统中极具发展前景的通信技术,它可以作为移动基站(Base Station,BS)、移动中继(Relaying)等空中通信平台用于信息的接收和发送,在增强覆盖、安全通信、边缘计算、缓存等各种通信场景中均能得到广泛的应用。然而,无人机辅助通信系统仍然面临着诸多挑战,其中最严峻的挑战之一就是无人机的续航问题。在无人机辅助信息收集场景中,由于无人机的电池容量有限,在执行任务期间,必须要定时返航为机身充电或更换电池,这也使得无人机的能耗在整个通信期间显得十分珍贵,因此不得不考虑在完成必要通信任务之余尽量减少无人机的飞行能耗,从而增加无人机的续航时间。另外,在无人机辅助的无线通信系统中,无人机辅助中继被视为一种具有发展前景的技术,相比于传统的地面固定中继系统而言,无人机辅助中继系统可以更好地满足系统的通信要求,改善通信质量,扩大通信覆盖范围。然而对无人机辅助中继系统而言,无人机的部署问题、信息因果条件等使得对传输策略的研究比固定地面中继场景或者无人机信息收集场景更为复杂。此外,多无人机协作通信的场景在无人机辅助通信系统中也具有极为重要的研究意义。一方面,多无人机协同可以为系统带来更大的性能增益,覆盖更大的通信范围;另外也能够适应异构网络系统中不同的任务需求,更加符合未来网络发展的要求。但另一方面,多无人机场景下,无人机与用户之间的通信调度问题,无人机的安全飞行问题等都将成为非常重要的考虑因素,这在一定程度上增大了网络设计的复杂度。本文围绕以上几个方面,主要研究内容和创新点归纳为如下几个场景:1.无人机辅助信息收集系统优化传输策略基于无人机飞行能耗带来的续航能力问题,设计研究了一种能量有效的(Energy-efficient)无人机通信系统,在多地面用户场景中,利用无人机对地面节点用户(Ground Terminals,GTs)进行数据收集,同时保证每个节点的最低通信服务质量(Quality of Service,QoS),通过利用Dinkelbach分数规划理论和连续凸近似方法(Successive Convex Optimization Technique)提出了一种交替迭代算法,联合优化地面用户调度和无人机的轨迹,最终获得最佳无人机能效(Energy Effi-ciency),有效提高了无人机的能量利用效率。2.无人机辅助中继通信系统优化传输策略针对多用户场景下的旋翼无人机中继场景,研究了系统吞吐量最大化问题。无人机需要将数据从源节点收集,并发送给目的节点;对旋翼无人机的能耗模型进行了建模,并在研究的问题中考虑了无人机飞行能耗受限的情况和信息因果条件,考虑了多用户信息传输的公平性原则。在无人机移动性和信息因果性等条件的约束下,通过采用凸优化理论,获得了多变量联合设计下系统最佳资源分配方案和无人机最佳飞行轨迹。3.多无人机协作通信系统优化传输策略针对地面多用户场景,采用多无人机协作的方式,对地面用户数据进行收集。首次考虑了多无人机间的差异化设计,实现了单独对每个无人机进行通信设计,以满足特定需求;此外,设计了一种多无人机安全飞行机制,有力保障了多无人机协作通信时飞行的安全性,并提出了时隙正交的方案避免链路间干扰。利用凸优化理论和连续凸近似方法,最终实现了系统时隙调度、功率分配和飞行轨迹的联合优化方案,达到了安全飞行条件下多无人机间的差异化设计的目的。