对于传统通信系统,大量已有算法是对固定的模块进行优化设计。基于模块化的优化设计方法虽然能提高单个模块的性能,但并不意味着整个系统的性能最优。此外,由于基于模块化的系统需要根据提前设计好的算法来执行某些功能,这类系统往往欠缺一定的灵活性。深度学习具有结构化、智能化等特点,能够更好的适应下一代通信系统需求或某些特定应用场景。通过深度学习中自动编码器的思想,可以利用深层神经网络实现端到端的通信系统,这种系统可以端到端进行联合优化以实现更好的通信性能。因此,本论文通过仿真的方法,研究了基于深度学习实现端到端通信系统的可行性及性能表现。第一部分采用深度学习自编码器算法,实现了高斯信道和瑞利衰落信道下的单输入单输出(Single Input Single Output,SISO)端到端通信系统仿真。首先,在高斯信道下,论文研究了模型搭建中隐藏层层数对模型的影响以及训练时的模型超参数对于模型的影响,最终确定模型结构与参数。仿真得到系统的误码率性能并与传统的系统进行比较,结果表明基于神经网络的系统误码率更低。进一步在瑞利信道下,研究了模型的批次大小及学习率对模型的影响以得到模型最好参数,在此基础上得到系统的误码率性能比传统的性能更好。最后仿真了双用户干扰信道下的系统,着重研究了不同的损失权重因子对于系统的影响。由于多输入多输出(Multiple Input Multiple Output,MIMO)技术在现有的通信系统中起着至关重要的作用,因此第二部分基于深度学习算法实现了多输入多输出端到端通信系统,结果表明深度学习在MIMO系统中依然有良好的表现。我们考虑了不同天线配置,首先将基于自编码器的单输入多输出(Single Input Multiple Output,SIMO)系统与传统最大合并比接收分集系统进行比较,前者具有更好误码性能。随后,我们仿真比较了基于自编码器的多输入单输出(Multiple Input Single Output,MISO)系统与Alamouti发射分集系统,结果表明基于神经网络的系统有较低的误码率。最后,仿真结果表明,基于神经网络的MIMO系统与基于奇异值分解(Singular Value Decomposition,SVD)预编码的系统相比具有更好的误码率性能。