Peer-to-Peer模式的自治、动态、鲁棒及分布式等特性给用户带来了极大便捷。在分布式协作、资源共享以及并行计算等方面展现出优异的性能,从而成为一种非常流行的互联网应用模式。然而,在Peer-to-Peer环境下,节点间的松耦合关系导致了大量的安全隐患。不合作的节点漠视“相互协作,服务共享,互惠互利”的P2P技术理念,其不合作行为表现出自私、消极、恶意等特征。产生这些问题的根源在于：Peer-to-Peer环境中缺乏中心服务器的监督,从而导致节点之间信任关系的缺失,以至于资源与服务可靠性无法得到保障。针对这些问题,在P2P网络中引入信任度量并部署激励策略是有效的应对方法。节点间信任关系的建立使得节点可根据信任等级选择可信节点进行交互,避免非法资源的传播。激励策略的部署提高了节点共享资源或服务的积极性,遏制了网络搭便车现象。因此,开展信任与激励机制的研究,对于P2P安全体系的构建有着重要的理论意义和现实的应用价值。同时,本文的工作也是基于国家自然科学基金课题《P2P信任与信誉机制研究》和国家“863”高技术研究发展计划基金课题《多特征融合的P2P网络攻击监测和预警关键技术研究》的研发需求。本文以降低不合作行为的负面影响为研究主线,以信任度量和激励策略为研究切入点,分析了信任关系的建模,实现了特定P2P技术与信任度量的结合,讨论了激励节点参与共享的方法。全文紧紧围绕信任与激励机制展开了深入地研究,取得了如下创新性成果：(1)提出一种基于蚁群系统的信任建模方法现有的非结构化全局信任模型在获取目击信息时,往往产生冗余的推荐路径,且很容易形成信任长链,导致最终的信誉合成不准确。针对该问题,本文通过借鉴蚁群系统的思想,把蚁群信息素和推荐可靠度进行关联,以节点间的逻辑跳数为蚁群算法中的启发因子。利用蚁群系统实现目击节点的寻径,确保请求节点和目击节点之间建立最优信任路径,并通过信息素的挥发对不诚实节点进行惩罚,使得最终合成的信誉值更准确,同时降低了消息开销。(2)提出一种基于信誉的乐观路由策略现有的Chord路由策略改进的主要手段是通过优化路由表来改善路由效率,忽略了路由决策方式的影响,往往单纯地采用贪婪决策或信誉决策来指导路由。针对此问题,本文提出一种基于信誉的乐观路由策略。考虑到Chord环上路由的特点以及路由行为可用布尔逻辑描述,本文提出的方案利用FFP协议和Beta信誉系统对节点路由行为进行评估。并根据贪婪决策和信誉决策的特点,提出了乐观路由的思想,采用贪婪决策与信誉决策相结合的方式来选择转发节点,实现了路由效率和可靠性的合理折衷。(3)提出一种信誉敏感的拓扑自适应协议在现有的基于Gnutella的非结构化网络中,拓扑构造没有充分考虑到节点行为特征及资源的关联性。在节点拓扑重构时,合作节点与不合作节点处于相同地位。针对此问题,本文提出一个信誉敏感的拓扑自适应协议。通过引入信任度量,根据邻居节点信誉来调整节点连接关系,大大降低了不合作节点成为邻居的可能性,从而使得不合作节点逐渐被网络边缘化。此外,结合资源分布特性,以资源相似度启发搜索过程,拓扑自适应过程尽可能保证邻居节点间具有更好的资源相似度,从而加速了资源定位过程。(4)提出一种基于资源最优分配的激励机制针对搭便车造成的网络资源分配不公平问题,以网络带宽分配为切入点,提出一个最优效用的数学模型。首先对效用函数进行解耦,然后利用对偶分解法对效用函数进行求解。考虑到分布式环境下求解的困难性,通过定义新的辅助变量和引入附加约束条件,把原始问题转化为易求解的对偶问题,使得每个节点可独立地利用迭代法求最优解。与类似激励机制不同的是,本文提出的方案在保证了激励节点共享的情况下,兼顾了系统整体效用最大化。