近年来,网络安全形势日益严峻,作为一种新的多媒体信息安全手段,数字图像隐写技术已经成为多媒体信息安全领域的研究热点。隐写检测作为数字隐写的逆向分析技术,经过多年研究同样取得了长足的发展。现有的检测算法在实验室环境下取得了较好的检测效果,但应用于实际网络环境时,由于待测图像统计特性复杂,隐写算法和负载量未知,不可避免的会产生分类器“失配”的问题,隐写检测性能也会大幅降低。图像大数据技术的出现为我们提供了一种解决思路,在当前的网络环境下,可以很容易获得大量不同来源、不同大小以及不同处理历史的图像数据,通过从图像数据集中检索出具有相似先验概率分布的载体图像,可以解决传统盲检测方法面临的“失配”问题。利用异常检测技术可以避免复杂的分类器训练过程,实现真正的通用盲检测。在此基础上本文提出了结合图像检索和异常检测的通用无监督隐写检测算法。此外,现阶段深度学习技术作为一个能够解决复杂分类问题的有力工具,也逐渐应用于隐写分析领域。利用深度学习强大的数据分析和特征提取能力,本文研究了基于卷积神经网络的有监督的隐写检测算法。论文的主要内容和学术成果包括:1、简要介绍了信息隐藏、数字隐写以及隐写分析的基本概念和研究现状,从机器学习角度对现有的隐写检测框架进行了归纳总结,分析了传统检测方法在应用于实际网络环境中遇到的问题并给出本文所提的解决方案。2、针对隐写分析中载体来源失配问题,提出了一种结合图像来源检索与异常检测的通用无监督盲检测算法。首先,简要介绍了数码相机的成像原理,分析了如何通过图像的固有统计特性获取相机来源;然后,分别介绍了图像来源检测算法以及传统低维空间异常检测算法,并给出完整的检测流程;最后通过实验分析对比了本文所提算法与传统无监督隐写检测算法性能。实验结果表明,本文所提算法不仅消除了载体来源失配影响,性能明显优于传统基于单分类器的检测算法,还具有较强的通用性,对多种隐写算法都有较好的检测效果。3、针对原始图像、平滑以及锐化滤波后的图像构成的混合图像集,提出了结合图像滤波检索与异常检测的通用无监督盲检测算法。首先,简要介绍了两种常用的图像滤波算法,并在此基础上提出了图像滤波检测特征;然后,介绍了富模型特征在进行异常检测过程中遇到的“维数灾难”问题,采用的解决方案是使用适合高维空间的异常检测算法。实验结果表明,所提算法性能优于传统的低维空间异常检测算法,但由于富模型特征维度较高,特征提取和异常检测耗时较长,因此检测效率较低。4、针对传统富模型特征维度较高的问题,提出了一种基于富模型特征和卷积神经网络的有监督隐写检测算法。首先,介绍了经典的卷积神经网络的基本结构以及JPEG图像富模型特征;然后,设计了适合富模型特征的卷积神经网络并给出网络结构和参数设置。实验结果表明,本文所提算法检测性能优于传统的富模型特征和集成分类器组合的方式,通过利用深度学习强大的数据分析和GPU并行计算能力,可以解决富模型特征维度较高的问题,而增加训练样本数目能够在一定程度上提升隐写检测性能,进一步论证了深度学习可以应用于隐写分析领域。最后,对本文的主要研究工作进行了总结,并对实际网络环境下的隐写检测技术进行了展望。