随着信息技术的发展,在科技日新月异的同时,系统与软件安全问题被大众越来越重视。其中栈溢出作为缓冲区溢出中危害最大的漏洞,一直难以被根除。众多学者提出一些有效的解决方法,其中栈不可执行机制、内存地址随机化和基于编译器扩展的栈保护SSP机制等简洁高效的方法已经得到广泛认可。但是随着时间推移,在面对攻击者精心设计的攻击手段时,这些方法逐渐显现出一定的局限性。以SSP防御机制为例,在使用fork系统调用的程序中,可以通过创建子进程来逐字节破解栈溢出防御检测标志,即canary检测字节,从而绕过SSP防御。这一漏洞目前被用于远程入侵Nginx等WEB服务器中。因此论文开展栈溢出攻击防护方法的研究具有重要的现实意义和实用价值。本文首先从栈溢出漏洞分析出发,通过实验验证对SSP的工作原理以及其不足之处进行研究。其次针对逐字节破解canary的攻击方法,本文设计了一种解决方案,其核心思想是在fork系统调用后,子进程执行前为其创建一块轻量级的缓冲区用于存放栈内canary的地址,并由此更新子进程的栈内canary数值,进而实现父子进程中canary的多样性,最后通过插桩代码改变canary存取以及函数返回时的校验阶段,从而完成对逐字节破解攻击的防御。基于上述思想本论文实现了一套基于GCC编译器的插件,其作用对象为程序的源代码。该插件可以在兼容SSP机制的情况下,同时防御逐字节破解的攻击手段。插件包含一个插桩模块以及动态共享库模块。插桩模块功能是在GCC编译器优化后端注册新的编译优化遍,用于插入关于canary入栈以及出栈时的信息验证代码。动态共享库是为经过插件编译后的程序执行提供环境支持,其中包括环境设置、改写的库函数以及插件自检等功能函数。为验证栈溢出防护方法的有效性,本文对原型系统进行了功能测试和性能测试。实验结果表明插件在WEB服务器中所引入的性能损耗小于0.5%,在普通应用程序中所带来的性能损耗小于2.5%,均处于可接受范围内。本方法在增强栈保护的同时也可满足实际应用场景的部署。