空间调制(Spatial Modulation,SM)作为一种新兴的MIMO传输技术,通过建立信息比特与发射天线索引之间的映射关系,将空间维度引入传统二维调制中,从而构成三维星座空间。针对SM技术频谱效率较低及不能充分利用天线资源等问题,学者们又提出广义空间调制(Generalized Spatial Modulation,GSM)传输技术。这些新兴的MIMO传输技术能明显改善甚至消除传统MIMO系统中存在的信道间干扰和多射频链路实现成本高等问题,正逐渐成为无线通信系统中的重要研究方向。本论文主要对SM技术及其扩展技术中存在的问题进行研究和改进,以降低复杂度和提升系统误比特率(Bit Error Rate,BER)性能为改进目标。所做出的工作及创新点如下:1.对提升SM系统BER性能的比特映射技术做研究。针对目前比特映射算法中存在不能在系统BER性能和复杂度之间平衡的问题,提出一种改进的比特映射算法,称为符号最近法(Symbol Nearest Method,SNM)。该算法以符号间的距离为标准对SM符号进行排序,并将格雷编码的比特序列分配给已排序的SM符号。仿真和分析结果表明,在高信噪比情况下该算法的系统性能接近于BER下界,且计算复杂度为()2O K,其中K为SM符号数,其复杂度也较低,从而取得系统BER性能和复杂度之间的折中。2.在GSM系统中,发射端的多根天线被激活导致其接收端信号检测较为复杂。为了降低检测复杂度,提出一种改进的球形译码(Sphere Decoding,SD)检测算法,称为可靠SD(Reliable SD,R-SD)检测算法。该算法依据设定的排序准则对候选的发射天线组合降序排列,采用SD检测算法依次对发射天线组合进行搜索,并对搜索到的结果设定阈值进行可靠性判断。若判断为可靠,则终止检测,否则将继续搜索。若所有的搜索结果均不满足可靠性判断条件,则取所有搜索中最优的结果作为最终的检测结果。仿真和分析结果表明,R-SD检测的系统BER性能近似相同于最大似然(Maximum Likelihood,ML)检测,且在收发两端配置多根天线和调制阶数较高时,R-SD检测相比于ML检测其计算复杂度可以降低88%左右,在GSM系统中具有较强的实用性。