随着计算机和互联网的快速发展,语音分离技术已广泛运用到诸如助听器、移动通信、智能家居设备和语音信号处理等研究领域中,得到了越来越多研究者的关注。由于现实环境中噪声的干扰,如何高效,快捷地获得干净的目标语音信号,一直是研究中的一个热点问题。基于深度学习的语音分离技术将语音分离任务转化为一个机器学习的过程,与传统语音分离技术相比,有着重要的研究意义和广阔的研究前景,可广泛用于助听器设备和语音识别的前端模块。为了提升基于深度学习的语音分离系统应用的性能,通过对系统不同模块算法进行研究,重点研究了基于长短时记忆网络的语音分离系统算法。长短时记忆网络可以更好地利用语音的时序相关性,但存在训练耗时较长和语音质量等性能有待进一步提升等问题。本文从优化模型角度出发,针对长短时记忆网络内部三个门结构的特点,为减少计算成本、缩短训练时间,分别以双门结构的门控循环网络单元和单门结构的循环网络单元构建语音分离系统。根据仿真实验发现,使用门控循环网络单元在缩短训练时间的同时可以实现语音分离性能的提升。在此基础上,为获得更好的系统语音分离性能,提出以下两点改进:(1)使用门控循环网络结构提升语音分离性能时,存在各性能指标提升不平衡的现象。从模型的训练准则角度出发,发现传统的均方误差不能很好地与语音评价指标相匹配。通过命中率减误报率指标的计算原理对模型的训练准则——损失函数进行改进,提出通过加权调和平均计算融合语音评价指标与预测和真实值之间差距的自定义损失函数,使目标语音在趋近于理想输出的同时,更好地与语音评价指标相匹配。通过实验证明,改进的损失函数可以有效提升语音分离系统的命中率减误报率、短时可懂度和语音感知评价指标,使系统获得更好的语音分离性能。(2)为进一步提升语音分离的性能,在改进模型内部结构和训练准则的基础上,从模型整体结构出发,结合注意力机制原理和人耳的掩蔽效应对模型输入和输出部分进行改进。对输入信号施加自注意力机制,获得可以区分目标语音主导帧单元的带注意力权重序列,经过门控循环网络后,在输出部分施加注意力机制,使最终结果更关注于目标分离语音。通过实验证明,本文提出的结合注意力机制的模型结构可以有效提升分离语音的短时可懂度和语音质量感知评价,实现了对分离语音中噪声的进一步抑制。最后,对所做工作进行总结和分析,总结了本文的研究成果和不足之处,并对未来进行展望。