人们对于高速的数据传输以及高频谱效率的需求是驱动未来无线通信技术发展的关键因素。在第四代移动通信技术中,多输入多输出(Multiple Input Multiple Output,MIMO)技术起到了十分关键的作用。然而,MIMO技术在应用过程中不可避免地存在信道间干扰(Inner Channel Interference,ICI)的问题。空间调制(Spatial Modulation,SM)是近年来被提出的一种利用多天线架构进行无线传输的技术,其降低了接收端的复杂度,并且完全避免了MIMO系统中存在ICI的问题,作为极具潜力的一种多输入多输出技术成为未来无线通信技术的研究热点。在无线通信系统中,接收端估计信道的准确性影响着对后续的信号检测以及解调的可靠性。空间调制技术提出后,该方案中的信道估计研究却屈指可数。此外,人们对无线通信的场景需求也日益增加,在终端高速移动的情况下,信道变化会十分剧烈,因此在时变信道模型下的信道跟踪方案研究也十分迫切。本文的主要研究内容为在空间调制系统的框架下,研究一种基于神经网络的信道估计方法和基于卡尔曼滤波的信道跟踪方法。本文主要内容及成果包括:(1)空间调制系统中信道估计的研究:分析空间调制系统中常用的几种信道估计方法。介绍神经网络的基本原理,设计适用于空间调制系统信道估计的神经网络结构以及信道估计方案。该方案将接收端复杂的计算转移到云端完成,降低了实际通信过程中信道估计的复杂度。设计两层的前馈神经网络结构,利用量化共轭梯度(SCG)算法训练神经网络,针对所提出的方案进行仿真验证,结果表明该方案误码率性能优于LS算法和MMSE算法。此外研究训练序列长度和神经网络隐层神经元数量对该信道估计方法性能的影响并仿真验证,结果表明训练序列越长,该算法性能越好,隐层神经元数量与系统复杂程度有关,应至少大于接收端天线数目;(2)空间调制系统中信道跟踪的研究:主要包括数据辅助的信道跟踪方法和卡尔曼滤波信道跟踪算法,改善数据辅助算法误差增殖的弊端。分析了在时变衰落信道下信道跟踪的必要性,介绍目前空间调制系统中常用的数据辅助跟踪方法。针对空间调制系统设计了卡尔曼滤波信道跟踪方法的方案,详细介绍该算法的步骤并进行仿真验证,结果表明在低信噪比条件下该算法误码率性能较数据辅助的信道跟踪方法提升明显,根据仿真结果分析了导频比例以及信道变化参数对信道跟踪的影响,导频比例越高信道变化速率越慢,信道跟踪效果越好。