在现阶段的网络建设中，室内覆盖不足和网络容量瓶颈正在成为制约下一代网络发展的两个重要问题。家庭基站网络技术的出现，可以很好地解决未来B3G/4G网络中室内覆盖优化和网络容量提升的问题。与此同时，针对公共地区，例如大型商业中心、办公楼宇、会展中心、机场和火车站等热点地区，室内覆盖增强的技术也引起了人们的关注。　　 然而，家庭基站也带来了新的技术挑战，包括家庭基站与宏蜂窝网络共存系统的干扰协调与消除，层叠网络下的资源管理控制等。家庭基站网络具有用户自部署、基站数量大等属性，导致其具有统一规划难、集中管控不易等特点。同时，随着公共家庭场景的普及及推广，家庭基站技术面临着更加复杂的干扰、多点协同联合部署等问题与挑战。　　 本文主要研究公共家庭基站多小区典型场景下的解决方案，重点关注家庭基站和宏蜂窝网络层叠场景下的容量优化和部署设计的问题。其中，主要涉及干扰抑制与消除及家庭基站与无线新技术的结合应用等方面。具体而言，本文的研究内容主要包括以下几个方面:　　 第一部分（含第一、二章），首先简要介绍了移动通信网络的历史、现状及未来发展趋势，指出未来通信室内覆盖及传统网络容量限制所面临的技术挑战，点明通过用户自部署的家庭基站网络作为室内覆盖增强和网络容量提升技术的相关研究正成为新兴的研究热点。进一步，介绍了相关现有成果所存在的关键问题，特别是基础理论模型单薄及新技术应用的缺乏等。通过深入分析，得出本文的研究重点在于层叠网络容量提升的关键方法与技术。　　 第二部分（第三章），以层叠网络加和容量最优化目标，针对层叠网络层间(Inter-TierInterference，ITI)干扰、层内干扰（Inter-femtocellInterference，IFI）等关键问题，探索面向多小区公共家庭基站的联合天线方向选择算法与联合功率分配方案，以解决共道干扰问题。首先，以层叠网络容量总和最大化为目标，进行建模;其次，考虑到容量最优与算法复杂度的折中，提出两种解决方案:其一、最优方案，采用穷举搜索算法，复杂度极高，不利于实际应用;其二、基于图论的次优解决方案，仿真显示该方法不仅大大降低了算法的复杂度，而且能够获得相当好的体统性能，有效解决层叠网络共道干扰，提升系统容量。　　 第三部分（第四章），结合了无线新技术的特点和室内家庭基站网络的特性，探索了LTE-A系统协作多点传输技术在家庭基站网络中的应用，以解决大量部署的公共家庭基站之间的干扰问题。创新提出了一种联合信号处理方法(CoMP-JP)，其主要创新点包括:第一，协作基站间不需要共享用户数据信息，而只需传输用户与各个基站的CSI信息，从而大大降低了小区间信令开销;第二，为用户提供多点联合处理增强服务，同时每个基站只需负责本小区用户的数据信息，较传统的CoMP-JP方案具体有更高网络的吞吐量，提升了无线资源利用率。第三，通过联合预编码，有效消除处于小区边缘重叠覆盖区域的用户的下行干扰，提升了整体家庭基站网络的容量。　　 最后，总结了全文，进一步地指出了后续可研究的方向。