由于目前协议的设计越来越复杂以及网络安全问题日益严重，协议测试技术已经成为协议实现过程中的一个必需且十分重要的手段。对WLAN安全协议进行测试的重点在于一致性和安全性，因此本文对协议一致性测试和安全性测试进行了研究。在一致性测试方面，本文研究了主动测试，首先设计了主动测试方案：利用有限状态机模型对待测安全协议进行形式化描述，之后根据待测协议的特点设计相应的测试场景，并利用改进的T方法设计好测试序列。接着提出了一种可扩展的WLAN安全协议主动测试系统框架，并在此基础上实现了主动测试系统，该系统采用前台显示与后台测试例之间相互分离的思想，具有可扩展性以及可重用性的优点。最后实际测试了一种新的WLAN安全接入认证协议，并给出了相应的测试结果。在安全性测试方面，本文通过研究现有的安全性测试方法，将安全性测试分为健壮性测试和协议攻击测试两个方面，并针对上述两方面选取了三种有代表性的原子攻击测试方案：扰动攻击、重放攻击和伪造AP攻击测试。接着基于主动测试系统框架设计并实现了安全性测试系统，该测试系统具有易用性和可扩展性的优点，测试者可通过自行添加测试例的方式来构造新的攻击测试方案。最后本文开发了所选取的原子攻击的测试例，并利用该安全性测试系统对一种新的安全接入认证协议进行了测试。