在无线通信中，多输入多输出（MIMO）的概念一提出，便引起巨大关注。作为新型的无线通信关键技术之一，具有显著增强分集增益，提高系统吞吐量、以及减少干扰的潜力。空间调制（Spatial Modulation,SM），是面向MIMO系统的一种空间复用技术。该技术最突出的优点，即可以完全避免信道间干扰，并且可以增加能量效率。SM要求每次只有一根天线被激活，剩余天线全部保持缄默，对空间资源造成了极大浪费。广义空间调制（Generalized Spatial Modulation，GSM），在每一个传输时隙内，多根天线被允许同时激活，并利用多天线索引来传输数据，可以获得比SM更高的频谱效率。
　　在传统的SM和GSM技术中，数据信息被分别映射至空间域和信号域进行传输，激活天线组合的数量往往要求是2的幂次方，这限制了系统的性能和设计的灵活性。为了突破这种限制，本文研究了一种空间域和信号域的联合映射方案。映射机制和信号检测是空间调制中两个关键技术，针对这两个关键技术，本文进行了相关的研究，具体研究内容可以归纳如下：
　　1)针对SM/GSM系统提出了信号域和空间域联合映射的传输方案。在传统SM/GSM系统的映射传输机制中，大多选用比特到天线索引和比特到调制星座符号的映射方案，在该映射方案中，可将输入数据分为两部分，第一部分用于选择被激活的发射天线索引组合，第二部分选择调制星座点。本文针对GSM系统提出一种联合数据映射方案，通过采用一张联合数据映射表，实现了天线索引及调制星座点的联合映射。此方案可突破激活天线组合的数量2的幂次方的限制，并可通过增加激活天线组合的数量来降低星座图的调制阶数，从而提高系统的误码率性能。此外，针对降阶后的正交幅度调制(QAM)，基于欧式距离最小准则提出一种星座图优化方案。仿真结果显示，基于联合数据映射传输方案的SM/GSM系统性能优于基于传统映射方案的SM/GSM系统。
　　2)提出了一种基于联合映射机制的低复杂度的联合压缩感知(Joint Compressed Sensing,JCS)多级检测方案。针对提出的传输方案，可以采用最优的ML检测算法对接收信号进行解调，虽然联合映射表可以离线生成，但当映射表足够大时，该检测算法的复杂度仍然过高。本文针对联合数据映射方案的ML检测复杂度过高的问题，在接收端，对检测方案进行了优化，提出一种次优化检测算法。该算法基于正交匹配追踪(OrthogonalMatching Pursuit,OMP)，对联合数据矢量进行JCS多级检测。在该算法中，引入了两个预设阈值，将检测范围分为三级，逐级提高检测精度。通过设置不同的预设阈值，平衡系统误码率性能和检测复杂度。仿真结果显示，提出的JCS检测方案通过设置合理的阈值可以获得较优的误码率性能和较低的检测复杂度。