受深度神经网络发展的推动,近年来学术界和工业界掀起了新一波人工智能浪潮。凭借强大的特征提取能力,深度神经网络已经在图像和语音识别,自然语言处理等领域完全超越传统的机器学习算法。神经网络如此卓越的性能,主要得益于其复杂的网络结构和海量的训练数据,伴随而来的是网络模型庞大的参数量和计算量,这导致模型向移动端等低配置平台的部署受到了限制。但实际上神经网络中很大部分参数是冗余的,于是一个很自然的想法就是在尽量保持网络性能的基础上对其进行压缩和加速。基于这个背景,本文重点针对深度卷积神经网络的压缩和加速算法展开研究,主要贡献如下:针对基于知识迁移的压缩方法,本文通过分析卷积层特征提取过程的特点,提出了基于特征图实例归一化统计量的迁移知识。通过可视化实验的方式,我们验证了这种统计量携带与样本类别相关的判别信息,可将其用于“老师-学生”网络训练框架中。相比现有方法对“知识”的定义,基于实例归一化统计量的迁移知识可以进一步提升学生网络的分类准确率,从而在已有的性能需求下,我们可以设计更加轻量的网络并提升其性能,等价地获得更高的压缩加速比。然而上述的迁移知识定义与现有的大多方法一样,没有考虑不同特征图之间的相关性,本文通过类比真实教学场景中老师向学生传授知识的过程,提出了一种基于特征图协方差矩阵的交互知识,让学生网络模拟结合多种知识向老师网络学习的过程。通过对比实验证明,基于特征图协方差矩阵的交互知识同样能够获得比现有方法更好的效果,也进一步加快了训练收敛的速度。本文还提出了一种基于知识迁移的通道自选择软剪枝算法。在已有软剪枝算法的基础上,我们对卷积层的每一个通道引入受稀疏约束的可学习权重掩码,并让被剪枝网络在老师网络的指导下,实现在训练过程中基于全局学习率和权重掩码自动选择不重要的通道进行结构化剪枝。通过在多个网络模型和数据集上的实验表明,本文提出的方法能以更小的精度损失对网络进行剪枝,从而获得更好的压缩和加速效果。