面部表情识别技术作为非接触式人机交互技术,已经成为神经科学、情感学、认知心理学等学科的热点研究方向,并且在辅助治疗、教育、零售、安全驾驶等领域具有广阔的发展前景。本文以深度学习原理为基础,在研究原始胶囊网络的基础上,根据自然环境下表情图像的特点,提出了基于多尺度特征胶囊网络表情识别算法,并在网络中引入注意力机制来自适应学习特征图通道的重要性。本文的主要研究内容及成果如下:（1）研究了卷积神经网络和胶囊网络（Capsnet）的基本原理以及网络架构,分析了胶囊网络在自然环境下进行表情识别任务的优势。胶囊网络使用向量作为特征信息的载体,其长度表示特征存在的概率,其维度表示特征的各种空间属性。当所检测目标发生稍微的转变,输出结果与原始结果相比,胶囊的方向发生改变,但是胶囊的模长仍保持不变,因此胶囊网络具有更强的特征表达能力。由于现实环境下,面部图像会发生旋转、偏移、以及放缩等各种情况,因此使用胶囊网络能更好地检测面部表情特征。在RAF-DB和Ferplus数据集上进行仿真实验,Capsnet在RAF-DB数据集上取得了76.50%的准确率,在Ferplus数据集上取得了80.75的准确率。（2）针对自然环境下表情图像的特点,提出了基于多尺度特征胶囊网络（MSCapsnet）表情识别算法,有效提高了表情识别的准确率。分析了多尺度特征在表情识别任务中的重要性,由于现实环境中人脸的尺寸各不相同,面部器官的大小也不相同,并且由于人脸间的显著性差异较小,因此提取多尺度特征在面部表情识别任务中非常重要。由于原始胶囊网络仅使用单层卷积层进行特征提取,极大的限制了胶囊网络在复杂数据集上的性能。为了能够有效提取多尺度特征并学习特征的空间信息,本文提出了基于多尺度特征的胶囊网络,使用多尺度模块（MS-block）提取面部表情的多尺度特征,通过胶囊网络进行空间位置编码并整合特征。在RAFDB和Ferplus数据集上进行仿真实验,结果表明MS-Capsnet能显著提高表情识别的准确率。MS-Capsnet在RAF-DB数据集上取得了86.64%的准确率,与原始胶囊网络相比识别准确率提升了10.14%;在Ferplus数据集上取得了88.33%的准确率,与原始胶囊网络相比识别准确率提升了7.58%。（3）在研究神经网络注意力的基础上,提出了具有注意力机制多尺度胶囊网络（MSA-Capsnet）的表情识别算法,进一步提高了表情识别的准确率。由于原始特征图的每个通道是同等重要的,而在实际的问题中,不同通道的重要性是有差异的。为了有效计算通道注意力,提升模型的特征表达能力,在多尺度胶囊网络的基础上引入了注意力模块来自适应学习特征图中每个通道的重要程度。在RAF-DB和Ferplus数据集上进行仿真实验,结果表明MSA-Capsnet能进一步提升表情识别的准确率。MSA-Capsnet在RAF-DB数据集上取得了86.99%的准确率,与原始胶囊网络相比识别率提升了10.49%,与MS-Capsnet相比识别率提升了0.35%;在Ferplus数据集上取得了89.13%的准确率,与原始胶囊网络相比识别率提升了8.38%,与MSCapsnet相比识别率提升了0.80%。