攻击手段的复杂化和自动化对传统的防护方法提出了严峻的挑战。传统的安全技术依赖于防火墙、入侵检测和反病毒软件,强调以目标为中心,检测到入侵后才有所响应,属于被动的检测、响应和防御,缺乏主动性和对攻击的预测能力。主动防御技术在攻击未造成严重损失前,加固网络并对攻击进行预测、隔离、控制或击败,将被动防御变为主动防御。主动防御模型与技术作为网络安全防御的有效手段,得到了越来越多的重视,已经成为研究的热点问题之一。基于这样的背景,本文的研究目标是通过研究攻防矛盾冲突,用数学框架模型来描述信息安全对抗本质问题,解决攻击行为预测和最优主动防御策略选取问题。着重对以下几个方面进行了深入研究:攻防策略分类研究是网络安全研究的一个重要方面,科学合理的分类对于网络安全攻防建模和防御决策具有重要的参考价值。针对现有的攻击分类方法随意性较大,不符合分类学的基本要求,没有考虑攻防策略依存性的特点。同时考虑到攻防博弈模型的计算复杂度与攻防策略空间的大小直接有关。本文提出了一种面向防御决策的多维度攻击分类方法DMAT,从攻击和防御等方面的多种相关属性作为分类依据。针对攻击分类方法,提出了一种防御策略分类方法。给出了攻防策略成本收益量化模型,对不同攻防策略进行成本收益量化分析。将攻防策略分类与攻防策略成本收益量化模型相结合,用于网络安全攻防建模和攻防博弈模型的建立。安全分析和攻防建模是识别信息系统脆弱性、进行主动防御的有效方法。针对攻击图是从攻击者角度去分析建模,仅反映了攻击动作和系统状态变化情况,没有考虑防御者的因素。本文对攻击图进行了改进和扩展,提出了防御图建模方法,用于评估网络信息系统安全和全面的反映攻防策略及其成本收益情况。将防御图映射到攻防博弈模型,为进行主动防御决策提供依据。提出了一个防御图生成算法,并用实验阐明了基于防御图的网络安全建模方法的有效性。对网络信息安全中攻防关系和本质进行研究,得出了攻防双方的目标对立性、策略依存性和关系非合作性的结论,这些特点正是博弈论的基本特征。提出了一个网络攻防博弈模型,用于描述攻击和防御之间的关系和行为,进行攻击策略预测和防御策略选取。为解决现实中的信息安全难题提供了一种新的思路。将防御图映射到攻防博弈模型的相应元素,提出了基于静态攻防博弈模型的最优网络安全加固算法。从而构建了一套脆弱性评估、最优防御成本的主动防御模型,为及时有效的主动防御提供了有力保证。形式化定义了网络安全最优防御策略选取的这一复杂性问题。针对静态攻防博弈模型是攻防双方在单个状态环境下利用静态攻防模型寻找最优攻防策略,没有考虑攻防状态动态推演转换。提出了一种刻画网络安全攻防矛盾动态变化,解决最优防御策略选取问题的攻防随机博弈模型。将网络攻防双方建模为二人非合作攻防随机博弈模型,并详细地描述了该模型的形式化定义及其构成元素。给出了基于随机攻防博弈模型的最优防御策略选取算法。通过实验分析说明了该模型和算法在攻击策略预测和最优主动防御方面的有效性。