隐写是一种重要的信息保护技术,与传统的加密方式不同,它将秘密消息隐藏在载体中,使得非授权方难以识别秘密通信的存在。由于数字图像信息冗余多且被广泛使用,以数字图像为载体的隐写常被用作信息保护的重要手段。然而,隐写分析技术的快速发展给隐写方法的安全性带来了极大的挑战。传统的隐写方法依赖于难以构建的复杂的人工规则,很难适应于当前隐写分析的发展。因此,研究新型隐写方案以抵抗隐写分析,具有十分重要的意义。隐写方法的设计面临许多挑战,主要包括缺乏精确的载体模型问题、高效隐写编码构建问题以及消息负载与隐写安全的均衡问题。为了应对这些挑战,本文研究基于深度学习的智能隐写方法,以辅助或者代替传统隐写方法的设计。本文主要研究了失真代价函数的设计,以及基于深度神经网络的受限隐写编码。失真代价最小化框架将隐写问题转化为失真代价函数的设计问题,通过构建载体的失真代价函数,并采用给定的隐写编码器,完成实际的隐写操作。该框架将消息编码同载体失真代价函数的设计分离开,大大加速了隐写方法的设计。然而,设计失真代价函数是一个具有挑战性的问题。利用失真代价最小化框架,通过调整代价以及搜索新的策略,可以改进隐写安全性。然而,基于失真代价调整和策略搜索难以找到最优解,并且已有的隐写编码器本身也制约着隐写方法的改进,这使得难以同时兼顾隐写容量与和隐写安全。在给定隐写安全性的前提下,提升隐写容量,实现大容量安全隐写,也是一个极具挑战性的问题。主要贡献总结如下:首先,为了改进失真代价函数,本文提出载体复杂性约束下的失真代价对抗调整框架,通过调整现有失真代价函数,改进隐写方法抗隐写分析的安全性。失真代价调整是一类重要的隐写方法。基于深度学习的隐写分析模型可以有效分析隐写行为的存在性,提供了有关区分载体和载密分布的信息。针对隐写分析模型的对抗攻击,可以有效探索载体和载密的分类界面,从而为失真代价的调整提供启发式信息。通过构建多种类型的对抗攻击方案,提供可靠的启发式信息,用来指导失真代价的调整。并且通过构建有关载体的复杂性约束,缓解失真代价调整过程中出现的模式坍缩问题。其次,针对单一的隐写失真代价设计的不足,本文提出辅助距离度量约束下的隐写策略对抗搜索框架。通过结合多种辅助的距离度量以及隐写分析模型提供的距离度量,从不同的视角构建载体模型,提供多样的评价机制。利用策略梯度更新含参的策略模型。根据最终的隐写策略,导出失真代价,利用已有的隐写编码器完成实际的隐写。该框架提供了一种新的智能隐写思路,表明可以通过探索多种不同类型的评价,从而搜索到新的隐写策略,导出全新的失真代价。然后,为了解决传统隐写方案难以提升隐写容量的问题,本文提出基于深度神经网络的受限隐写编码方案。该方案利用深度模型的强大能力,通过消息融合实现消息编码和解码,并通过引入多种对手模型,实现可扩展的隐写。理论分析和实验结果表明,该方案提供了大容量智能隐写,并且具有很好的可迁移性,可以有效抵抗基于深度学习的隐写分析模型的攻击。最后,为了解决消息负载与隐写安全之间的均衡问题,本文提出基于安全博弈的混合离散约束下的受限噪声空间搜索框架。采用混合策略作为载体元素的实际离散约束,从一个指定的分布中采样出对应的离散约束值,混合策略将离散约束值的分配问题松弛为条件于载体的约束值分布度量的一个采样集合,从而实现了一种近似分配方法。通过搜索混合离散约束空间,改进受限隐写编码,提升了大容量下隐写的安全性。