随着计算机网络技术的发展和网络系统的膨胀,敏感数据正面临着被黑客攻击的威胁。入侵检测是企图入侵,正在进行的入侵或已经发生的入侵进行识别的过程,是一种主动的网络安全防御措施。入侵检测作为网络安全研究的重要内容,已经引起了国内外学者的广泛关注。目前入侵检测方法检测率较低,误报率和漏报率较高以及实时性较差等缺点,需要大量或完备的数据才能达到比较理想的检测性能。本文分析了在新的网络环境中传统入侵检测方法面临的困境,并针对目前入侵检测中所存在的问题,提出了一种新的检测模型——基于群体智能算法的神经网络模型。首先,本文阐述了入侵检测的概念,特点,分类,研究内容及传统入侵检测面临的困境;接着介绍了神经网络的基本原理和粒子群优化(Particle Swarm Optimization, PSO)算法以及具有量子行为粒子群算法(Quantum-behaved Particle Swarm Optimization,QPSO)的基本思想,强调了QPSO在全局优化问题中比PSO算法具有更好的收敛性能。本文进一步阐述了神经网络的概念,特点,结构,并介绍了小波神经网络的算法,分类等。接着以小波神经网络(WNN)为对象,应用QPSO算法作为训练算法,给出了具体的操作过程。接着,本文将QPSO优化的小波神经网络用于网络异常检测。为了测试性能,分别将遗传算法(Genetic Algorithm,简称GA),PSO算法以及QPSO算法分别训练小波神经网络,通过智能算法对操作变量的优化,在进行异常检测的过程中,尽量提高异常检测率,降低误判率。采用KDD99数据集进行的实验证明,基于QPSO的小波神经网络的网络入侵检测算法,有效的提高了检测率,同时具有较低的误判率。最后,本文提出一种改进的QPSO算法,并将它用来优化小波模糊神经网络,建立的模型在KDD99数据集上进行实验证明,该模型是有效的。本文的研究工作表明,用QPSO算法及改进的QPSO算法训练神经网络,其性能优于其他智能算法如:PSO算法和遗传算法,收敛速度也比PSO算法或GA算法快,这些结果表明,QPSO是一种高性能的神经网络训练算法,在用神经网络对网络异常检测中能发挥很好的作用。