近年来,人工智能检测算法在网络安全领域获得广泛应用。方滨兴院士提出的APPDRRUT网络安全体系结构模型,将网络安全划分为安全分析、安全策略、防护、检测、响应、恢复、统一威胁管理、可信计算8个维度,其中安全分析、安全策略、防护、检测等维度都有人工智能的参与,可见,人工智能对网络安全极其重要。然而,尽管人工智能在异常分类上表现出色,仍有研究人员发现其脆弱点。对抗样本攻击是一种针对人工智能模型的新型攻击方式。对抗样本这一概念由Szegedy等人首次提出,其定义是对输入样本故意添加一些无法察觉的细微的干扰,导致模型以高置信度给出一个错误的输出。将对抗样本攻击应用于人工智能检测算法,令人工智能模型将恶意样本分类为良性样本,可以使恶意代码逃避人工智能检测。本文从恶意代码远控和智能合约蜜罐两个场景对对抗样本攻击进行研究。恶意代码远控问题使国家安全面临严重威胁。随着TLS协议快速普及,恶意代码呈现出流量加密化的趋势,通信内容加密导致检测难度的进一步提高。本文提出一种恶意代码流量伪装框架Stealthy Flow,以采用加密流量进行远控通信的公共资源型恶意代码与GAN结合,对恶意流量进行不影响攻击功能的伪装,构造对抗样本,旨在实现对抗样本与良性流量的不可区分性,进而绕过基于机器学习算法的分类器。StealthyFlow具有如下优势:根据目标流量的变化动态调整对抗流量,实现动态流量伪装;伪装在恶意代码层面进行,保证攻击功能不被破坏;绕过目标不参与训练过程,保证恶意代码不会提前暴露。实验结果表明,StealthyFlow产生的攻击流量与良性流量相似度极高,在非合作环境中可以绕过机器学习分类器。智能合约蜜罐是一种特殊类型的智能合约。这种合约在设计上似乎有明显的漏洞,如果用户向合同转移了一定数量的资金,则用户可以提取合同中的资金。但是,一旦用户尝试利用这个看似明显的漏洞,他们将陷入真正的陷阱,无法收回用户在合约中的投资。智能合约蜜罐诱导其他账户发动资金,这种行为严重威胁着区块链上的财产安全。目前已经存在针对智能合约蜜罐的检测方法。然而,为了对抗智能合约蜜罐,仅仅研究如何防御已有的蜜罐是不够的,还需要从攻击者的角度预测未来可能出现的新型智能合约蜜罐。为此,本文提出了一种对抗性智能合约蜜罐,通过对158568个非蜜罐合约和352个蜜罐合约的对比分析,得出了蜜罐合约的代码特点和行为特点。为了构建具有对抗性的智能合约蜜罐,本文尝试对这些特点分别进行隐藏,最终使得蜜罐绕过现有检测技术。基于本文提出的对抗性智能合约蜜罐技术,本文构造了 18个实例,并使用开源的智能合约蜜罐检测工具进行了检测。实验结果说明,本文提出的对抗性智能合约蜜罐可以100%绕过该检测工具。在远控型恶意代码和智能合约蜜罐两个场景下,对抗样本攻击可以成功对抗人工智能检测算法,这对防御提出了更高的要求。针对以上两个场景,本文分别提出了防御对策。