【摘 要】
：
近年来,随着海量数据的积累、计算能力的发展,以深度学习为代表的人工智能技术在诸如计算机视觉、语音识别、自然语言处理等领域得到了广泛的应用。但是,由于人工智能系统对于数据的依赖以及深度学习算法的不可解释性,攻击者可以在掌握一定背景知识的情况下发动各种类型的攻击,导致目前的人工智能系统面临严重的安全和隐私风险。根据攻击者的目标不同,这些攻击方式可分为两类:以属性推断攻击和模型推断攻击为代表的将模型训练
论文部分内容阅读
近年来,随着海量数据的积累、计算能力的发展,以深度学习为代表的人工智能技术在诸如计算机视觉、语音识别、自然语言处理等领域得到了广泛的应用。但是,由于人工智能系统对于数据的依赖以及深度学习算法的不可解释性,攻击者可以在掌握一定背景知识的情况下发动各种类型的攻击,导致目前的人工智能系统面临严重的安全和隐私风险。根据攻击者的目标不同,这些攻击方式可分为两类:以属性推断攻击和模型推断攻击为代表的将模型训练数据及自身参数信息作为目标的攻击方式,一般将其概述为深度学习的隐私问题;以对抗样本为代表的以逃避人工智能系统为目的的攻击方式,一般将其概述为深度学习的安全问题。本文所做的研究工作及贡献如下:（1）针对深度学习系统中的隐私问题,一种较为有效的方法是结合差分隐私保护模型来构建防御机制,目前主流的应用在深度学习领域的差分隐私算法是DPSGD算法。然而,在实际使用DPSGD的过程中,难以选择合适的参数以达到良好的拟合效果。除此之外,其隐私损失的度量机制也较为复杂。为了解决这些问题,本文提出了 DPADAM算法,同时引入zCDP作为隐私损失的度量机制,使得其在应用过程中更加简单灵活。实验表明,DPADAM算法能够有效解决参数依赖问题,在确保隐私性的同时提高模型的拟合效果。（2）针对深度学习系统中的对抗样本问题,本文提出了一个通用的基于条件生成对抗网络的对抗样本防御模型。该模型将对抗样本防御看作是一个image-to-image的过程,即通过训练生成对抗网络的生成器可以将对抗样本映射为正常样本,从而起到了消除对抗扰动的作用。实验表明,该防御框架能够有效的抵御各种不同类型的对抗样本的攻击,且防御性能不逊色于目前较为先进的防御机制。
其他文献
生物质作为一种非常重要的可再生能源,我国作为一个农业大国,生物质资源储量特别丰富,稻壳作为生物质能源的一种,合理利用稻壳对于提高广大农民的收入,以及减少环境污染等问题具有特别的意义。在生物质利用之前对其进行干燥预处理,可有效提高生物质能的品质。为了对稻壳进行干燥,以盘式干燥机作为研究对象,主要研究了盘式干燥机加热盘,加热盘作为盘式干燥机中的核心元件,也是盘式干燥机系统易发生故障的主要部件。加热盘内
非线性以及时滞普遍存在于实际控制系统中,如电力、通讯、网络传输,机械传输等系统以及冶金工业过程,并且影响系统的性能和稳定性。因此,研究具有时滞的非线性控制系统具有重要的意义。鉴于以上考虑,本文采用Pade逼近法、动态面控制（DSC）技术,神经网逼近技术,研究一类具有短时滞的不确定非线性系统自适应控制设计问题。本文的主要工作如下（1）研究一类具有输入时滞和扰动的不确定非线性系统的自适应跟踪控制问题。
图书馆是高等院校最为重要的学术场所之一,数以百万计的图书为师生的学习和科研提供了丰富的资源;然而面对海量的馆藏图书,简单的图书检索难以针对性的提供个性化服务,无法有效地帮助读者在海量图书资源中找到其所偏好的图书,致使高校图书馆中馆藏图书重藏轻用现象日益突出。个性化推荐技术可以挖掘读者的潜在需求,能主动给读者推荐其可能偏好的图书,进而提升高校图书馆的整体借阅率。因此,研究高校图书馆个性化推荐算法具有
流程挖掘代表了一个重要的研究和工业主题,包括对企业完整的运营过程进行建模、从事件日志中提取知识建立真实执行模型、对业务流程的相关数据进行分析以提取有用的信息等等。随着越来越多的过程感知信息系统的实现,越来越多基于系统的数据被记录下来,从而流程挖掘相关技术的需求量也在增高。由于大多数信息系统允许一定数量的灵活性和偏差,流程挖掘中的一致性检测便有了适用价值,对齐也逐渐演变成衡量一致性的主要途径。当前的
碳材料,如富勒烯、石墨烯和碳纳米管等自合成以来,就一直备受研究者们的关注。近年来,随着计算科学,计算能力以及实验设备和方法等迅猛发展,使得一系列性能各异的碳材料被预测并合成出来。T-carbon是于2011年理论预测的三维碳材料,并于2017年被成功合成。因此,T-carbon作为理论预测与实验合成的完美结合,吸引了一大批研究者的目光。在本论文中,基于第一性原理计算,探究了 T-carbon在温度
准确掌握煤层上覆松散含水层渗透破坏特征是留设防砂煤（岩）柱下安全采煤重要理论依据。但目前判定含水层渗透破坏的水力梯度计算相关研究成果较少,对判定突水溃砂造成困难。为此,本文针对松散承压含水层下采煤所引发的突水溃砂问题,首先将含水层突水溃砂视为一维沟渠流,建立承压转无压沟渠流微分方程并给出解析式;同时在数值模拟中建立渗透率-体积应变耦合方程,研究渗透系数的演化过程,最后以涡北矿勘探原始数据为基础,通
1.研究背景与意义乳腺癌是女性最为常见的恶性肿瘤,居我国女性恶性肿瘤发病率的首位,严重危害女性的身心健康。其中最常见的类型是Luminal型乳腺癌,约占60%-70%,因雌激素受体（estrogen receptor,ER）表达阳性,所以通常采用抗雌激素药物他莫西芬进行内分泌治疗。乳腺癌的发生常伴有遗传学和表观遗传学的改变,表观遗传调控可能对乳腺癌具有潜在的治疗和改善预后作用。表观遗传学中组蛋白修
目的膀胱癌（BCa）是泌尿系统常见的恶性肿瘤,主要起源尿路上皮,严重危害人类健康。BCa具有高复发及易转移特点,至今机制不明。膀胱各部位的组织起源与解剖结构也不尽相同,研究表明膀胱癌复发转移与发病部位（亚器官）密切相关。本课题旨在通过对在线数据库膀胱癌测序数据及临床和随访信息的分析,初步判断膀胱癌发病部位与临床病理分级和预后、上皮-间质转化（EMT）分数、免疫细胞浸润和肿瘤突变负荷（TMB）的关系
材料热物性参数测试方法研究及其系统装置设计,已发展成为一门独立基础学科,是研究材料基础性质必不可少的一环。随着材料科学的发展和制造工艺的进步,复合材料种类日益多样化,快速准确获得新型复合材料热物性参数是材料在工业生产中广泛应用的基础。复合材料的物性参数既有各向同性又有各向异性。因此,开发了一种既能测各向同性材料的热物性参数,又能通过一次测量获得正交各向异性材料在三维方向上的热物性参数的多维恒温边界
本文分别基于整体土拱稳定和局部土拱稳定条件,推导出两种理论下抗滑桩桩间距求解公式,并通过工程实例和数值模拟对公式进行验证,此外,为研究负温对土拱效应的影响机制,将人工冻结法中单排冻结布管方式引入抗滑桩设计中,通过有限元差分软件FLAC3D软件模拟热力耦合作用对桩体以及桩间土拱效应的影响,并基于相关数值模拟结果和土拱整体稳定理论建立负温下的桩间距解析解,最后结合数值模拟结果对桩间距解析解进行定量分析