随着互联网的迅速发展,网络安全问题日益严重,安全威胁事件逐年上升,近年来的增长态势尤为迅猛。其中,自传播的网络蠕虫由于其传播速度快、影响范围大、造成的经济损失大,已经成为目前互联网面临的最为严重的安全威胁之一。网络蠕虫已经严重威胁了互联网中信息资源的保密性、完整性和可用性,可以通过删除数据、窃取信息、打开后门、形成僵尸网络、修改用户的正常操作和发动分布式拒绝服务攻击(DDoS)等方式破坏计算机系统。网络蠕虫的研究已经成为近年来国际上在网络安全和信息安全领域最活跃的研究方向之一。如何有效防御网络蠕虫传播成为非常迫切的问题。通过研究网络蠕虫的扫描策略,建立大规模网络蠕虫的传播模型,找出制约其传播的关键因素,继而对网络蠕虫进行有效地防御。于是,本文针对大规模网络蠕虫建模与防御进行了深入的研究。包括下列内容:1.构建了一个基于离散时间的简单蠕虫传播模型,以此模型为基础,详细分析了蠕虫的不同扫描策略,并给出了分治扫描模型、本地子网扫描模型、置换扫描模型。2.根据易感主机的非均匀分布,提出了一种基于佳点集扫描策略(GPSS)的自学习蠕虫,大大提高了蠕虫的扫描速度。受生物动力系统研究领域中的捕食者/食饵模型的启发,利用数学模型研究了自学习蠕虫(食饵)和捕食者间的交互动态行为,提出了两种防御方案:感染驱动的交互模型和漏洞驱动的交互模型。利用这两个交互模型,得到了蠕虫灭绝与否的阈值——基本再生数,研究了捕食者相关参数对交互模型的影响,并探讨了捕食者安全性的相关技术。3.提出了一个基于动态隔离和免疫的传染病模型——SEIQV模型,并研究了不同参数对SEIQV模型的影响。4.建立了一个带有死亡率,离线率和在线率的时滞SEIRS模型,得到被动蠕虫灭绝与否的阈值——基本再生数。研究了不同参数对模型的影响,尤其是时滞对模型的影响。5.给出了在非结构化对等网中多节点下载同一个文件所需的延时;利用流行病动力学仓室建模思想,提出了一个考虑网络吞吐量的数学模型来仿真被动蠕虫的传播,并根据非结构化对等网中文件的流行度服从幂率分布提出了用健康文件分发策略来防御被动蠕虫。