情感分析作为挖掘文本语料中用户情感倾向的方法,在当今社会的各个领域有着广泛应用。随着计算机技术的发展,人们不再满足于获取文本语料的粗糙情感倾向,而是希望得到基于属性或功能的细粒度情感倾向。因此,细粒度情感分析逐渐成为该领域的热点研究内容。数据规模扩大,情感语料库构建为词嵌入神经网络应用于细粒度情感分析提供了有利条件。基于双向Transformer编码器模型（Bidirectional Encoder Representations from Transformers,BERT）作为词嵌入神经网络的重要模型之一,具有局部特征提取能力强,迁移学习效果明显和预测准确率高等优势。但是,其应用于细粒度情感分析任务仍有以下不足:词嵌入神经网络的统计特性导致BERT对语料中高频特征极性敏感,受该类特征极性影响,模型预测结果出现误差;Transformer编码器采用固定序列长度512编码输入,不能使用变长输入,造成BERT在训练和预测过程中,对长文本语料情感信息丢失;大规模语料库无结构化,存在冗余语料和干扰语料,导致BERT在训练过程中浪费大量计算力。因此,基于传统的BERT模型,分别针对以上不足,从提高模型准确率,扩大模型适用范围和降低模型训练消耗三方面出发,对其进行相应改进。将改进后的模型应用于语料库,进行细粒度情感分析实验,将实验结果与现有方法比较,均取得了较高评分。本文的具体研究如下:（1）针对BERT对语料中高频特征极性敏感问题,提出信息增益关联向量的双向Transformer编码器模型（Information-gain Association-vector Bidirectional Encoder Representations from Transformers,IAS-BERT）。信息增益可以衡量某一特征与情感倾向的相关程度;关联向量可以专注于连续输入之间的内部特征,以优化[mask]标签随机覆盖训练。采用特征极性平衡权重输入到极性平衡器,能够有效平衡高频低相关特征极性。通过优化特征矩阵初始值生成方法,能够在模型训练时避免梯度消失。将IAS-BERT应用于语料库SST-2,Twitter＿senti,DMSC和Chn Senti Corp中进行细粒度情感分析实验,结果表明该模型在大多数情况下优于其他模型。（2）针对BERT对长文本语料情感信息丢失问题,提出基于情感语义图的双向Transformer编码器模型（Sentiment Semantic Graph Bidirectional Encoder Representations from Transformers,SG-BERT）。使用双层双向长短期记忆网络（Bi-directional Long-Short Term Memory,Bi LSTM）作为词特征提取器和句特征提取器,生成情感语义图。以情感语义图方式进行细粒度情感分析,能够提高模型对长文本语料的适应性。将SG-BERT应用于长文本语料库IMDB和Dp＿senti中进行细粒度情感分析实验,结果表明SG-BERT提高了模型对长文本的适应性。（3）针对BERT在训练过程中计算力浪费问题,提出基于概念格约简的双向Transformer编码器模型（Concept Lattice Reduction Bidirectional Encoder Representations from Transformers,Concept-BERT）。通过分析语料库结构,利用概念格关联规则约简冗余语料和干扰语料。设置前向匹配正则表达结构和优化后的损失函数,减少深层网络计算开销。通过这种方法,能够在模型情感预测准确率不变的情况下,降低训练消耗。将Concept-BERT应用于语料库SST-2,Twitter＿senti,DMSC和Chn Senti Corp中进行细粒度情感分析实验,结果表明Concept-BERT能够有效减少训练开销。