随着人工智能技术的日益成熟,基于深度学习模型的文本分类技术被广泛的应用于现实任务中,例如情感分类、恶意文本检测、新闻分类等。但深度学习模型很容易受到对抗样本的攻击,这影响了模型可靠性,从而给使用相关技术的企业和个人带来了安全隐患。因此,如何在保证模型具有较好泛化性的同时提高模型对于对抗样本的鲁棒性,成为近几年深度学习领域亟需解决的重要问题。本文聚焦于深度学习文本分类任务,对影响模型可靠性的对抗样本进行研究。从文本对抗样本的攻击和防御两方面,对现有方案展开分类分析;并针对对抗样本的生成、防御、实验评估三个环节,完成了以下三项工作:1)提出了一种基于单词显著性的文本对抗样本生成方案。研究对抗样本的生成技术,能帮助研究者更好的了解模型工作机理并改善模型性能。现有的大部分基于单词替换的文本对抗样本生成方案,存在替换词数过多、得到的对抗样本可读性差等问题。本文方案利用单词显著性准确定位到对分类结果影响较大的单词,并利用Hownet同义词语料库,得到词性和含义更相近的备选替换词,成功改善了以上问题。2)提出了一种基于混合对抗样本的对抗训练防御方案。对抗训练利用对抗样本对模型进行重训练,能很好的改善模型的鲁棒性。现有的大多数对抗训练防御方案,很难同时防御多种攻击方法。本文提出混合对抗训练方案,将多种攻击方法生成的对抗样本等比例混合之后对模型进行重训练,改善了模型同时防御多种攻击方法的性能。3)设计了一种文本对抗样本实验展示平台。近年来参与对抗样本研究的学者日益增多,但缺少一种可视化实验展示平台以帮助学者更直观、快速的了解对抗样本攻击、防御、评估的全过程。本文设计的平台,具有完备的攻击、防御、评估功能模块,同时具有较高的性能和较好的使用体验。基于以上三项工作,通过实验评估验证了前两种算法方案的可行性与优良性;通过测试分析验证了实验平台完备的功能与良好的性能。