近年来,无线传感器网络(Wireless Sensor Networks, WSN)及P2P覆盖网络等快速发展,展现出强大的生命力和广阔的应用前景,受到学术界的广泛关注。虽然这些网络应用在协议栈、基于的通信网络、完成的业务以及所覆盖的区域大小等诸多方面有所不同,但是,它们具有一个共同的特点——在网络协作层面功能对等,同属于对等计算模型。对等计算模型呈现出与中心式计算模型不同的本质特征和规律,给解决其安全问题带来新的困难。如何保证基于对等计算模型的应用系统的安全已经成为一个迫切需要解决的问题。本文主要包含以下内容：(1)研究了同构网络模型的组密钥管理问题,首次给出了一个明确的、更完整的动态组密钥管理模型,并提出了一种基于多个对称多项式的动态组密钥管理方案。本方案能够为任意多于两个且不大于节点总数的节点组成的动态多播组提供密钥管理功能,解决了多播组建立、节点加入、退出等操作所引发的与组密钥相关的问题。组成员节点通过计算获得组密钥,只需要少量的无线通信开销,大大降低了协商组密钥的代价。(2)提出了一种针对“基于多个乱序对称多项式的对偶密钥建立方案”的攻击方法,表明其不能抵御大规模节点俘获攻击。通过引入全同态加密思想,提出了一种全功能对偶密钥建立方案。本方案对多项式的运算过程进行保护,使共享密钥计算过程得以在加密状态下完成,阻止了敌手获得与多项式有关的信息,成功应对了大规模节点俘获攻击。针对全同态加密方案计算复杂度较高的问题,提出一种全同态加密体制的间接实现方法,大大降低了本方案的存储及计算复杂度。(3)综合分析了无线传感器网络已有的认证协议在加密体系、PKC公钥绑定及其应对的攻击形式等方面的发展趋势和不足,给出了引入位置信息的、基于身份的节点对等认证方案。本方案采用在求逆、求阶及求点倍数等运算比椭圆曲线高效的圆锥曲线加密体系；引入位置信息使得方案能够抵御基于地址欺骗的攻击,如Sybil、Wormhole、Sinkhole和身份复制攻击等。(4)提出了一种基于持久存储技术的P2P认证方案。本方案利用持久存储技术、可信计算思想和虚拟系统思想,通过构造存储用户信息的、分布式的用户数据库和用于认证的可信实体,解决了用户的个人信息无法存储及缺乏客观可信的认证实体两个关键问题,实现了基于密码的认证方式。此外,针对由Wacker等提出的公钥绑定方案存在副本无法更新问题,设计了两个公钥维护算法。(5)对于以上各方案的可行性及安全性,论文采用逻辑推导、串空间形式化证明等方法分别进行了证明。结果显示各方案是安全、可行的。对于方案的计算、存储及通信等性能的评价,论文首先通过对计算形式、参数长度及数据包数量等进行分析,从理论上与相关方案进行了比较;其次,利用已有的实验结论,讨论了部分方案在MICA2DOT平台上的实际性能；最后,在CC2430实验平台上对动态多播组密钥管理方案和全功能对偶密钥建立方案的性能进行了实验。上述分析均显示,各方案在存储、计算和通信开销方面具有很好的性能,适用于资源受限的无线传感器网络。