随着制造技术和移动通信技术的不断发展,移动终端的数量以及数据流量的需求将呈现爆发式的增长,未来无线通信网络面临着频谱资源紧缺,网络部署高度密集化等诸多问题。在此背景下,多天线网络应运而生,其被视为近几十年来无线通信领域取得的重要成果之一。多天线网络能够通过空域维度的预编码设计,在不增加额外频谱资源的情况下显著提高用户的信噪比,实现抑制用户间干扰的目的。另外,由于釆用频谱效率更高的同频组网覆盖策略,这将导致小区间的干扰非常严重,因此基站间的干扰协调技术也是学术界和工业界关注的一个焦点问题。采用基站与基站之间的协作预编码传输策略,可以有效抑制甚至完全消除小区间干扰。本文以多天线系统中最重要的两种网络形态为研究背景,研究基于预编码技术的干扰管理方案以及资源优化方案,解决未来通信网络中匮乏的通信资源以及复杂的干扰管理这两个方面的难题。本论文主要成果包括:首先,论文针对网络过于拥塞的情形,研究了用户动态分组策略下的接入控制与预编码设计问题,并提出了基于分支定界方法的最优算法和次优算法。这两种算法的思想都是在用户分组和接入情况一定的情况下,通过半正定松弛方法将非凸的预编码设计问题近似成半正定规划问题。进而,采用分支定界的准则搜索每个用户分组和接入的解空间。另外,考虑到用户接入顺序对性能的影响,论文设计了基于接入增益排序的用户分组和接入搜索算法,进一步降低了算法的复杂度,实现了算法性能和计算代价的有效折衷。其次,考虑到单时隙接入控制策略会存在用户服务不均衡的问题,研究了轮循服务机制下的用户分时传输和预编码设计问题。针对分时周期一定的情形,推导出了信道距离与吞吐量之间的解析关系,并提出了基于层次聚类思想的用户分时调度算法。在此基础上,采用连续凸近似的方法来近似非凸的预编码优化问题,设计了迭代的求解算法。根据两者的结果,进一步提出了两种具有不同复杂度的搜索算法,分别得到分时周期的最优值和近似值。再次,在多基站合作传输的情形下,考虑到有线回传网络的部署成本、灵活性以及可扩展性等难题,论文提出了接入与无线回传一体化的网络架构。针对接入网中的小区干扰问题,基站间采用协作预编码策略来抑制干扰。同时,从用户的角度出发,动态调整用户与基站的关联策略,以达到较好的负载均衡效果。根据接入网的组网策略,进一步采用多用户预编码技术实现基站间的无线回传需求,以充分挖掘和利用基站的空间分集特性,提升回传链路的传输效率。针对这一联合优化设计方案,本论文对离散的关联问题进行了连续化,进而采用DC规划和凸近似两种方法对问题进行转化,并在两种情况下分别设计了相应的求解算法,从而实现接入网络和回传网络的最佳平衡。最后,针对基站间的协作预编码传输策略抑制干扰程度有限的问题,研究了接入网中以用户为中心的基站分簇方案。通过多个基站构成虚拟小区对一个用户进行服务,以充分利用不同基站的分集增益来提升传输的可靠性和传输速率。进而,回传网络采用基于TDMA的多播传输策略将用户数据分发到对应的服务基站簇。鉴于回传网络和接入网络之间构成了非闭式的复杂耦合关系,采用了凸近似的思想对问题进行了近似,并提出了计算有效的求解算法。同时,考虑到近似问题的解空间并非原问题的可行解,进一步设计了基于二分法的用户分簇搜索算法和基于高斯随机化方法的预编码矢量求解算法。