近年来,深度学习发展迅速,在语音识别、图像识别、自然语言处理等领域应用最为广泛。同时,深度学习已经成为图像处理与识别领域中最热门的研究方向。目前肿瘤细胞图像的分类与回归算法多数属于浅层学习。浅层学习对复杂函数的表示能力有限,针对复杂分类问题其泛化能力受到一定的制约,难以解决一些更加复杂的自然信号处理问题,例如人类语音和自然图像等。而深度学习可通过学习一种深层非线性网络结构,用较少的参数表示复杂函数,实现复杂函数逼近,并展现了强大的从少数样本集中学习数据集本质特征的能力。因此,本文尝试将深度学习应用到肿瘤细胞图像分类识别中,深入研究了两种深度学习模型:卷积神经网络和反卷积网络。在所有的深度模型中,卷积神经网络对于图像处理具有独特的优势,因此本文首先尝试研究了采用卷积神经网络进行肿瘤细胞图像识别的方法。首先构建了一个针对肿瘤细胞图像特点的卷积神经网络分类模型,由2个卷积层、2个下采样层和1个全连接层组成。接着采用预训练和dropout技术对提出的卷积神经网络模型进行了改进和优化,以提高模型的鲁棒性。再利用扩大后的新的图像数据集对本文的CNN模型进行训练,等到模型收敛之后,将模型参数保存下来,以解决肿瘤图像数据少的问题。最后在原始的肿瘤细胞图像训练数据集上对模型进行训练时,由于模型参数初始化采用上述步骤中得到的参数,大大减少了模型的训练时间,使得整体模型的收敛速度加快。经过仿真实验,该卷积神经网络模型对肿瘤细胞图像的分类识别正确率可达到88%。但由于卷积神经网络调参过程很不直观,并且不能提取目标高层结构特征,识别速率较慢,因此本文尝试研究了采用自适应反卷积网络模型进行肿瘤细胞图像识别的方法。首先对使用自适应反卷积网络模型进行肿瘤细胞图像识别的可行性和必要性进行了分析,在此基础上构建了自适应反卷积网络肿瘤图像识别模型,通过模型训练和特征图推理,很好地提取了更加丰富的肿瘤图像特征。接着通过模型的重构算法,获得与输入图像保持相近的重构图像,并且具有更快的训练和推断速度。然后,结合空间金字塔匹配分类算法,对利用自适应反卷积网络提取到的特征进行训练,最终实现图像的分类。经过仿真实验,相较于卷积神经网络,该自适应反卷积网络模型的运行速率明显提高,分类识别正确率可达到91.7%。最终,将本文采用的两种深度学习方法与肿瘤细胞图像浅层学习分类方法进行仿真实验比较,在分类识别率和运行速率上均有不同程度的提高,可以看出深度学习在肿瘤细胞图像识别上的研究非常有前景。