随着因特网和多媒体在下一代无线通信中的应用，宽带高速数据通信服务的需要正在不断增长。由于可用无限频谱资源的有限性，高数据速率只能通过高效的信号处理来实现。信息论领域近期的研究表明，在无线信道中使用多输入多输出(MIMO：Mutiple-Input Mutiple-Output)系统可以显著提高通信容量。在MIMO信道中，空时编码是能够使系统容量接近理论容量的一种编码方式，空时编码和相关的MIMO信号处理技术已引起了广泛的关注。同时，无论从技术角度，还是市场和经济的角度出发，作为3G核心技术的CDMA技术必将在未来几年内具有十分重要的地位，因此，如何利用先进的空时编码和MIMO技术、提高CDMA系统的容量和性能成为近两年来的研究热点。本文从空时信道模型出发，讨论了空时信道的容量、空时编译码方法，重点研究了两种空时编码方式在CDMA系统中的应用，详细研究了采用空时编码时的空时多用户检测算法，主要工作如下：1．研究了目前分层空时多用户检测算法的局限性和缺点，提出一种改进的分层空时分组多用户检测算法；2．基于H~∞鲁棒控制的思想，将H~∞鲁棒滤波方法应用于多用户检测领域，提出一种基于鲁棒Kalman滤波算法的多用户检测算法，该算法在无法确定干扰统计特性的情况下，仍能快速收敛，克服了传统的盲自适应Kalman滤波多用户检测算法的局限性。3．研究了目前空时编码多用户检测的方法和性能，基于降维、并行处理的思想，提出一种低复杂度的空时多用户检测算法，并运用新提出的鲁棒Kalman滤波算法验证了这种并行处理的性能。4．研究了空时编码在频率选择性衰落信道下的性能问题，将传统的分层空时多用户检测方法和空时编码多用户检测方法推广到多载波环境下，研究了MC-CDMA环境下空时多用户检测的方法和性能。