近年来,无线通信技术迅猛发展,第五代移动通信系统(5G)预期将达到更高的数据速率、更大的系统容量、更低的延迟以及更好的用户服务质量。异构网络是5G系统中的关键技术之一,能够支持多类型终端较大密度接入,并提供较高的覆盖率及吞吐性能。但其商业化应用仍受到一定的挑战,包括在大数据流量、高密度微小区下网络资源所受到的限制,以及大量移动数据流量所导致层间干扰的限制等,均为当前亟待解决的问题。当前,急速发展并细分的业务市场需求已向传统移动宽带网络架构提出了新的挑战。一方面,受限的设备空间以及能耗供给使得指数级网络需求增长难以得到满足;另一方面,多种无线接入设备所导致的网络异构化使得网络管理与优化越发复杂和难以维系。本文研究了如下四种适用于未来无线网中异构网络的新架构:网络功能虚拟化,软件定义网络,自组织网络,以及异构云无线接入网等。特别地,基于当前已有的标准和研究成果,对后续在5G网络中可能的扩展方向进行了阐述和探讨。本文在查阅大量文献资料的基础上,立足于未来无线网络中异构网络新架构的技术发展态势,针对未来无线网中异构网络的如下关键技术进行了创新:一、异构网络频谱感知与管理研究本文针对异构网络中的频谱共享进行了深入研究,基于Stackelberg博弈算法对感知无线电中的有限频谱资源加以最大程度的利用。在博弈过程中,授权网络对频谱资源加以控制并为其定价,低功率节点将对频谱资源进行购买以服务其自身所覆盖的用户节点,同时低功率节点也可主动选择授权网络中的用户节点进行服务。博弈中的效能函数与节点的数据速率密切相关,基站和低功率节点通过频谱交易和为用户提供服务以最大化各自的效能函数。本研究中在博弈的动态过程中应用了异构网络与感知无线电的干扰协作机制,并将收益体现在所提升的效能函数上。仿真结果显示,在异构网络中采用所提出的基于Stackelberg博弈算法的策略可有效提升受害授权用户的吞吐量,而对网络总吞吐量仅有轻微影响。为更加充分利用异构网络中受限的无线电资源,本文采取了软分数频率复用技术方法并将其抽象为一个非线性复杂问题。由于系统的高度软件化,因此该方案将得益于所采用的软件定义网络架构。试验结果验证,所提出的软分数频率复用技术方案有利于提升系统的可扩展性和灵活性。二、异构网络多用户多入多出感知与调度方案研究本文基于环形天线阵列、小区间干扰协调以及码本优化等技术,实现了感知多用户多入多出系统并对用户进行调度的方案。本方案对如下三个方面进行了改进:通过对周边频谱环境进行感知降低基站和低功率节点共用频谱导致的层间干扰、低功率节点配置环形天线阵列有助于感知时对不同方向角度的干扰信息进行辨别、以及根据用户信道特性和码本对用户进行分组调度。最后对仿真结果进行了分析,结果显示,所提出的方案有助于改善系统吞吐量和用户速率,并使整个系统的信干噪比有一定提升。三、异构网络中大规模多入多出预编码方案研究传统多入多出预编码方法通常在基带以数字预编码器方式进行,重点对传输信号的幅度和相位进行调整,有较优的性能,然而其较高的硬件复杂度和能耗为实际应用造成了困难。结合了数字预编码和模拟预编码的动态预编码方案能够有效降低射频链数,使大规模多入多出预编码在5G系统中的实现成为可能。本文在介绍5G异构云无线接入网系统架构的基础上,提出了基于零空间的动态预编码方案。通过分析临近受害用户的信道零空间,该预编码方案能够有效降低干扰效应并达到较好的性能。仿真结果显示,在较多天线数目下系统能够获得更高的传输速率,并达到较好的频谱利用效率。综上,本文对未来无线网中异构网络的关键技术进行了多方面的研究,所改进的方案在提升系统性能方面取得了较好的效果。