【摘 要】
:
近年来,深度学习在计算机视觉识别方面取得了很大的进展,尤其是在分类任务方面取得了显著的突破。深度神经网络的结构复杂性赋予了模型强表达能力,但同时也带来了可解释性不强的问题,易于受到对抗样本的干扰输出错误的结果。对抗样本是人为向输入样本中添加细微噪声形成的,对抗样本的提出引发了人们对深度学习安全问题的关注,如何有效地生成更自然的对抗样本受到了研究人员的广泛关注,研究对抗样本有助于促进深度学习安全领域
论文部分内容阅读
近年来,深度学习在计算机视觉识别方面取得了很大的进展,尤其是在分类任务方面取得了显著的突破。深度神经网络的结构复杂性赋予了模型强表达能力,但同时也带来了可解释性不强的问题,易于受到对抗样本的干扰输出错误的结果。对抗样本是人为向输入样本中添加细微噪声形成的,对抗样本的提出引发了人们对深度学习安全问题的关注,如何有效地生成更自然的对抗样本受到了研究人员的广泛关注,研究对抗样本有助于促进深度学习安全领域的发展。对抗样本的生成依赖于攻击者对模型的了解程度,考虑到在实际场景中,攻击者可伪装成用户轻松地获取模型输出的标签信息。因此,可访问标签的黑盒攻击在各类对抗攻击中更具有现实意义。针对现有可访问标签的黑盒攻击生成的图像对抗样本的对抗扰动随查询量收敛较慢的问题,本文分别采用了边界梯度估计和边界搜索的策略,提出了两种生成黑盒对抗样本的方法:优化查询和扰动分布的黑盒攻击(Improved Black-Box Attack based on query and perturbation distribution,IBBA)和基于决策的自适应黑盒攻击(Decisionbased Adaptive Black-box Attack,DABA)。这两种算法只需要查询深度神经网络输出的top-1标签即可有效地生成对抗样本,具有收敛速度快的优势。IBBA以边界梯度估计策略为基础,从查询分布和扰动分布两个方面优化黑盒攻击算法,同时,该算法根据有目标攻击和无目标攻击的特点设计了不同的方法优化黑盒攻击算法。DABA以边界搜索策略为基础,根据扰动方向和扰动减小量的关系设计对抗样本生成策略,提出了根据决策边界几何特点自适应调整的扰动方向搜索策略,通过对扰动减小量的进一步分析,给出了自适应调整的生成对抗样本策略。在ImageNet数据集上的实验发现,相比于经典的可访问标签的黑盒攻击算法,IBBA无目标攻击算法在低查询量下生成的对抗样本具有较小的对抗扰动;DABA无目标攻击算法可以更快地收敛到较小的对抗扰动上;IBBA有目标攻击算法在不同查询量下生成的对抗扰动均比较小;DABA有目标攻击算法也可以有效地收敛到人眼不易察觉的对抗扰动上。综合来看,本文提出了两种优势互补的黑盒攻击算法,为未来探索更有效的黑盒对抗样本生成方法奠定了基础。
其他文献
研究背景与目的:肝纤维化(liver fibrosis,LF)是慢性肝损伤引起的组织修复过程,也是慢性肝损伤发展为肝硬化、肝癌的必经过程。肝纤维化过程伴随着肝脏炎症反应,肝细胞死亡不仅能释放损伤相关分子,同时还能分泌炎症因子激活并维持肝星状细胞的活化。既往研究发现,肝癌组织中富含组氨酸的钙结合蛋白(histidin-rich calcium binding protein,HRC)表达升高,促进肝
目的验证一种新型双特异性T细胞募集抗体Y150对CD38以及CD3的双靶向能力,以及其介导T细胞对多发性骨髓瘤(MM)细胞的杀伤能力,并探讨其相关的作用机制。方法(1)首先,在体外验证Y150的功能。在细胞水平上通过流式细胞术验证Y150的Fab端同时靶向CD38以及CD3的能力。将DARZALEX、MOR202 anolog和CD3isotype作为Y150的对照抗体,确定该抗体的作用机制。通过
镜像综合孔径微波辐射计是在天线阵旁增加反射板,结合镜像综合孔径亮温重建,以提高空间分辨率或减少天线数目。然而系统误差对镜像综合孔径微波辐射计的成像质量有较大影响。反射板误差是镜像综合孔径成像系统所独有的。因此,需要对反射板误差以及其对镜像综合孔径图像的影响进行分析。本文研究反射板误差及其对镜像综合孔径图像的影响。将反射板误差分为六种误差:反射率、位置、粗糙度、角度、长度、形变误差。重点分析了粗糙度
基础科学研究取得突破发展离不开精密测量技术的革新,高精度位移传感器是基础物理领域精密测量研究常见的工具之一。在结构复杂的狭小空间中,探头式光纤位移传感器凭借着小尺寸、高精度、非接触等优点受到了研究者的青睐,但高紧凑小型化的光纤位移传感器,通常会存在位移测量非线性误差大、测量范围小、调光难等问题,为了解决上述问题,我们开展了本论文的研究。本文首先提出了一种基于角锥反射镜和波长调制正交相位测量方法的光
快速刀具伺服(Fast Tool Servo,FTS)超精密车削技术在制造微纳米结构功能表面和自由曲面方面非常具有发展前途。本文以补偿超精密机床加工中Z轴运动平台惯性振动所触发的动态轮廓误差为主要目标,研制了一套高频高精的FTS装置,搭建实验系统提取惯性振动导致的误差,提出了对FTS装置进行超精密实时振幅控制来补偿动态轮廓误差从而提升加工表面质量的方法。本文的主要研究内容归结如下:(1)设计了一款
【目的】卵巢癌是死亡率最高的妇科恶性肿瘤,铂类耐药和缺乏有效药物选择是患者死亡的重要原因。溶瘤腺病毒作为一种强有效的抗肿瘤制剂发挥着重要的抗肿瘤效应,但溶瘤腺病毒对卵巢癌细胞的感染率低,且目前应用的方式主要是局部注射,难以对腹腔转移的卵巢癌产生治疗作用。本研究通过将溶瘤腺病毒与凝血因子X(FX)结合形成复合物,研究溶瘤腺病毒卵巢肿瘤的感染能力,以及研究腹腔注射溶瘤腺病毒对肝脏损伤的影响,探索出一种
随着对地观测技术的进步以及遥感成像技术的发展,现阶段可以获得大量高分辨率的遥感图像,这使得如何充分利用遥感图像进行智能对地观测这一问题变得尤为迫切。语义分割在遥感领域有很多应用,例如土地利用、建筑物提取、道路提取以及车辆检测等。遥感图像的语义分割任务可以基于不同地形地貌的高分辨率遥感影像资料去识别提取土地覆盖和利用类型。针对目前遥感图像语义分割任务中存在的一些挑战,本文做了以下研究工作:针对将De
大型托卡马克放电过程中,一些磁流体不稳定性引发的破裂将会导致等离子体放电终止。等离子体中大量热能和磁能将在毫秒量级内快速损失,这会对装置造成严重的危害。这些危害主要包括三方面:装置壁和偏滤器靶板的热负荷、真空室壁的电磁应力以及逃逸电流。避免和缓解等离子体破裂期间产生的高通量高能逃逸电子一直是破裂缓解的重要课题。在大量气体注入(Massive Gas Injection,MGI)系统主动触发等离子体
基于微镜阵列的光场成像作为一种三维成像模式,迄今为止已诞生多种结构形态。目前工业界最新的光场相机,通过配置多焦距定焦微镜阵列构成。不同焦距的微镜结构,负责对不同物空间深度处的目标执行清晰成像,达到扩展景深和解析深度目的,其三维成像效能仍极有限且难以与目前成熟的平面成像模式兼容。液晶微镜阵列作为一种可替代定焦微镜执行电控调焦的微纳控光器件,可用于执行光场成像从而展现更大的景深和独特的层析化物空间能力
研究目的:分析和鉴定COL3A1基因突变与散发性胸主动脉夹层(STAD)发病的相关性。研究方法:本研究采用两阶段病例对照实验,通过高通量测序技术,探索经典致主动脉夹层的基因突变在散发性胸主动脉夹层人群中的分布。第一阶段纳入223例STAD患者和414例健康对照者,进行全外显子组测序,经过位点质量过滤、人群结构分析、亲缘关系分析和祖源关系分析得到高质量的基因变异位点后,筛选和评估29个经典致病基因的