文本相似关系的判定是自然语言推理的典型任务目标之一,具有十分广泛的实际应用场景,任务的难点在于:如何使模型能准确地理解文本的语义,并准确给出文本对的相似度打分。传统的基于LSTM或CNN结构的模型判定结果可用来表征文本之间的相关性,却难以准确的度量语义层面的相似性。近年来,预训练语言模型BERT的问世,使得自然语言处理领域进入新纪元,本文借助BERT的优势,针对文本相似性计算任务进行了研究与探索。主要成果如下:(1)针对SiameseCNN所使用的静态词向量无法准确表征上下文语义的问题,提出了BertCNN网络,该网络使用BERT基于特征提取的方法,引入预训练语言模型的先验语言知识,来获得准确的、融合语境语义的词向量。(2)针对Siamese网络在编码阶段只提取单句独立特征,而忽略句子对特征的缺点,提出了注意力前置的BertCNN网络,在卷积之前通过可分解注意力机制比较句子对字(词)粒度的相似性,使后续卷积提取句子n-gram特征的同时,提取句子对之间字(词)粒度交互特征。(3)针对平均池化会无差别地对待卷积特征图的问题,提出了注意力后置的BertCNN网络,在卷积之后引入注意机制比较句子对n-gram短语粒度的相似性,用以获取加权平均池化的权重向量。(4)进一步,融合之前几种迭代网络的优点,提出了Attention-Based BertCNN(ABBertCNN)网络,加持BERT的同时,引入两层注意力层,从多粒度、多角度充分提取句子对交互特征,并通过改进池化策略使模型更关注句子间相似的成分。(5)通过对比实验验证了ABBertCNN的有效性,能获得远超ESIM并与BERT微调持平的效果,同时比BERT微调训练更快,对低配硬件更友好;通过消融分析实验验证了加持BERT、加持第一、二次注意力机制的3种优化手段,都对提高模型性能有积极作用。