随着Internet广泛普及,端用户系统资源的丰富,以及网络带宽的快速增加,传统的Client/Server网络应用模式中服务器的性能瓶颈以及单点失效的问题不仅限制了端系统资源的充分利用,同时越来越无法满足新的分布式应用的需求。而Peer-to-Peer(P2P)网络在协同工作、分布式信息共享、大规模并行计算等方面显示出独特优势,使其成为新的发展热点。P2P网络是基于节点愿意共享资源这一基本假设的,但实际情况是P2P网络这种公共物品的私人提供导致了P2P网络中存在着free-riding问题和公共物品的悲哀问题。事实上,P2P网络的理性用户更多地表现出自兴趣和自主性,其根本目的是最大化个人效用,而并不考虑网络的整体效用。此外,P2P网络中存在着大量不可靠的服务质量以及欺诈行为。因此,要提高P2P网络的性能必须考虑节点的自主行为,激励节点之间有效合作并合理使用网络资源。本论文围绕P2P网络中节点自主行为造成的不可靠服务质量和不合作问题进行了研究,主要工作包括以下几个方面：第一,研究如何设计细粒度、系统的节点状态模型。本文分析了目前在节点行为研究方面具有较大影响力的相关工作之后,引入状态对节点行为建模,综合用户贡献度和信任度两个因素来衡量节点的行为表现,划分多个节点状态等级,设计一系列迁移原语及迁移规则,规定等级间的升降方向和升降条件,通过有限自动机的形式化方法对节点状态动态转换过程建模,以反映节点行为的变化。评价机制与节点状态模型的结合证明了节点状态模型的可实现性和良好的扩展性。第二,研究如何设计基于节点状态,具有激励性的形式化自适应拓扑构造协议。NS-ATP以节点状态模型为基础,设定与节点连接相关的多个属性和节点集,定义形式化的请求连接通信原语和操作原语,设置连接请求发送机制、请求接收机制以及响应选择机制。响应选择机制专门挑选可靠性更高的连接,以减少节点从恶意节点下载文件的概率。由三种机制通过原语和ECA规则实现有选择有倾向地控制同类型节点互连,形成合作节点聚簇的拓扑结构。第三,研究如何设计基于节点状态支持区分服务的激励机制。激励机制最终要为NS-ATP构建拓扑中的各种状态类型的节点提供不同质量的服务,支持区分服务有针对性的激励策略对细粒度节点状态类型中的低等级状态类型施行惩罚性策略,高等级状态类型设计竞争性的策略,从服务的时间、质量和数量等方面上给予差异化对待,实现根据节点行为区分服务的思想,促进节点积极参与网络共享。第四,为验证基于节点状态的激励机制NS-IM的可行性和有效性,通过仿真实验对NS-IM的实现和结果进行了说明和分析。本文的研究对实现P2P网络节点诚信合作积极参与资源共享具有一定的促进作用,对推进P2P网络可持续地健康发展从理论层面过渡到实际应用层面也起到了积极的意义。