随着网络服务和应用的发展，网络安全问题变得愈加重要，一些不法网络攻击者利用合法主机系统的漏洞，对其进行控制和进行破坏活动。目前不论是攻击者所使用的攻击工具还是攻击者自身的水平都有很大的提升，及时、有效地主动防御技术是面对当前复杂网络情形，给予网络服务安全最有力的保障。攻击源追踪技术是主动防御中最为关键的技术。当网络上突发攻击事件时，能够准确、及时、有效的对攻击源进行回溯，定位到攻击源，给予网络攻击者一定的惩罚和威慑，是动态持续保障网络安全最行之有效的方法。因此，如何准确定位到网络攻击源是目前亟待解决的重要问题。首先，论文介绍了入侵检测技术的原理和相关技术，并且针对相关技术检测效率不高等缺点，本文提出了一种基于协议分析的规则动态排序的检测方法，其特点就是利用了网络环境中数据报封装结构具有高度规则性。另外根据数据报的协议类型，可以快速检测出此类协议可能出现的攻击，提高了检测入侵攻击的效率。其次，论文介绍了目前现有的攻击源追踪技术，分析了各种追踪技术的优缺点。根据现有追踪技术的不足，本文提出了一种新的攻击源追踪方法—基于蚁群思想的网络协同攻击源追踪方法，解决了网络区域间、区域内的攻击路径构造问题。在构造攻击源路径时，首先启动域间追踪，把攻击源定位到AS当中，然后在这个AS中启动域内攻击路径重构；域内攻击路径重构会把一次完整的追踪过程分解为若干步，利用蚁群思想中的信息素这一先验值来减少搜索路径的范围，提高了搜索效率，然后再利用IP数据报格式中生存时间TTL来解决攻击路径中的“上下游”等问题。再次，论文介绍了SIPT攻击源追踪方法，针对SIPT方法在定位攻击源方面存在不足之处，提出了一种基于SIPT方法的改进方案。在数据报传输过程当中，利用关键地点的入口边缘路由器对数据报进行标记。在需要构造攻击路径时，只需使用一个数据分组的标记信息即可溯源，定位到攻击主机，攻击路径收敛效果好。最后，通过模拟实验，验证了基于协议分析的规则动态排序的检测方法、基于蚁群思想的网络协同攻击源追踪方法、基于SIPT方法的改进方案等性能，实验结果证明这些方法是切实有效的。