深度学习模型已经被广泛地应用到社会生产的各个领域中,在许多视觉任务中取得了显著的性能,例如在目标识别和分类中。然而,端到端的学习模式使得模型表现为一个黑盒子。模型的不透明性和复杂程度远远超出了人类理解的范畴,除了最终的网络输出之外,很难理解隐藏在网络内部的预测逻辑。当模型表现出的泛化性能很好时,很难去解释模型为什么会做出这种预测,是基于什么做出的判断。然而实际应用中模型的表现并不是完美无缺的,也会出现一定的错误。对于模型认知程度比较低,限制了其进一步得发展应用。很多的场景下需要对模型的决策做出解释,尤其是一些安全要求较高的领域。因此,深度学习模型的理解研究具有重要的意义和实际价值。通过分析卷积神经网络模型的训练过程,发现卷积操作可以保留特征在输入样本中的空间信息与语义信息,而这些特征可以有效地反映出模型关注的输入样本的区域。从该角度出发,提出了Acc-CAM的类激活映射的方法,该方法得到的类激活映射图能对输入样本中的类别区域做出判定,使得模型在面向分类任务中针对输入样本的不同特征区域进行差异化处理,从而更加直观方便的解释了样本数据中不同区域对模型做出分类结果的影响。在卷积神经网络分类器的解释方面,分析了多数据样本空间中特征对分类结果判定的贡献度,发现不同特征对分类结果判定的贡献度是不同的。从该角度出发,本文提出了基于贡献度的解释树的方法,通过梳理卷积神经网络模型从整个样本空间中提取的特征集合,从而构建出数据样本空间中特征变量的贡献分布矩阵,从贡献分布矩阵生成解释树。生成的解释树可以反映出模型在对具体样本的类别分析过程的特征组合的重要性。使用解释树的方法可以帮助人们有效地理解深度学习模型的预测方式,对具体的样本数据作出合理的解释,从而更有效地理解深度学习模型。总而言之,本文提出的类激活映射的方法和基于贡献度的解释树的方法可以帮助人们有效地理解深度学习模型,从而更好地使用深度学习模型。