【摘 要】
:
深度学习因其卓越的表现受到研究者的广泛关注。然而,深度神经网络通常需要大量的带标签样本来训练大量模型参数。但是,采集大量带标签样本代价昂贵,很多实际应用提供的训练样本集所包含的监督信息往往不够充裕,大多属于本文定义的三种弱数据集:1)仅包含大量无标签样本,不包含带标签样本;2)仅包含极少量带标签样本;3)包含极少量带标签样本以及大量无标签样本。但是,直接使用监督信息不充裕的弱数据集很难训练得到可靠
论文部分内容阅读
深度学习因其卓越的表现受到研究者的广泛关注。然而,深度神经网络通常需要大量的带标签样本来训练大量模型参数。但是,采集大量带标签样本代价昂贵,很多实际应用提供的训练样本集所包含的监督信息往往不够充裕,大多属于本文定义的三种弱数据集:1)仅包含大量无标签样本,不包含带标签样本;2)仅包含极少量带标签样本;3)包含极少量带标签样本以及大量无标签样本。但是,直接使用监督信息不充裕的弱数据集很难训练得到可靠的深度神经网络。本文通过研究相应的类别级别域适应方法,利用包含大量监督信息的辅助训练集与弱数据集训练得到可靠的深度神经网络。首先,针对训练样本集只包含大量无标签样本的弱数据集场景,提出了一种基于最小化不同职责分类器输出差异(Minimizing Outputs’Differences of Classifiers with Different Responsibilities,MODCDR)的无监督域适应方法,在模型框架中构造了一个生成器以及两个分别工作在源域和目标域上的分类器;基于上述结构,该方法得到用于自训练的目标域可靠伪标签样本,引入自训练机制;通过训练特征生成器最小化两个分类器输出的预测概率向量的差异,该方法不仅可以生成判别特征,而且还能实现类别级特征分布对齐。实验结果表明,与最近流行的无监督域适应方法相比,MODCDR具有优越的性能,这证明其在简单的模型框架上,通过引入自训练,结合判别特征生成和类别级别特征分布对齐,简单且高效地实现了类别级别域适应。其次,针对训练样本集只包含极少量带标签样本的弱数据集场景,提出了一种基于条件类别对齐(Condition Category Alignment,CCA)的监督域适应方法,使得源域与目标域的特征分布可以根据其自身的状态有条件地进行优化。在训练阶段中,仅当一批样本的类内距离估计值足够大而类间距离估计值足够小时,CCA才最小化类内距离估计值、最大化类间距离估计值;同时,CCA会根据一批样本的最大类内距离估计值与最小类间距离估计值之差调整优化特征分布的强度系数。实验结果表明,CCA在研究的弱数据集场景中表现优异,这证明CCA通过有条件地优化特征分布,更好地实现了类别级域适应。最后,针对训练样本集包含大量无标签样本与极少量带标签样本的弱数据集场景,提出了一种新的基于类原型特征分布对齐(Feature Distribution Alignment Based on Category Prototype,FDABCP)的半监督域适应方法。FDABCP使用基于余弦相似度的分类器学习类原型,减少混合源域与目标域监督信息可能造成的负面影响;在利用训练样本调整分类器并生成判别特征的基础上,构建两个分别学习源域类原型和目标域类原型的分类器,并利用它们设计域混淆损失与域鉴别损失,最终实现类别级别特征分布对齐。实验结果表明,FDABCP在研究的弱数据集场景中具有优越的性能,这证明该方法通过实现类别级别特征分布对齐,进一步兑现了训练样本对类别级别域适应的价值。
其他文献
随着电子信息技术的不断进步,新一代电子元器件朝着高频化、集成化方向快速发展,电磁污染以及散热问题亟待解决。通过在电子元器件上贴装导热、吸波功能一体化聚合物基复合材料可有效减弱电磁干扰,移除多余热量。但在目前的报道中,兼顾导热吸波性能提升方法及机理分析的研究尚为不足。针对研究现状,本论文通过改变填料形貌及引入铝蜂窝骨架,制备出具有较高导热吸波性能的复合材料。具体工作内容如下:(1)以球形羰基铁粉、氧
随着世界经济的高速发展与工业水平的不断进步,各国汽车保有量也在持续上升。汽车工业的高速发展在促进人类社会进步的同时,不可避免地加剧了环境污染与能源短缺,因此各国法律法规对污染排放的要求越来越严格。传统的车载氧传感器只能实现对尾气中氧气含量的测量,却无法满足法规对于废气中氮氧化物的检测要求,而能够精确、快速检测氧浓度,实现空燃比与氮氧化合物浓度测量的氮氧传感器在控制尾气排放中将起到十分关键的作用。因
随着能源短缺和环境污染等全球性问题日益突出,可再生能源直流输电成为电力系统发展的主要方向。由于真空介质具有环境优好的优点,使得真空断路器逐渐成为中压配电领域的主要开断装置。燃弧过程真空电弧的形态分布特征会影响等离子体的输运特性,同时是弧后介质强度的恢复过程的初始条件,直接决定断路器能否成功开断故障电流,是设计断路器参数的重要考虑要素。相比于工频电弧,快速过零工况下等离子体往往来不及扩散,对弧后介质
跨视角图像地理定位任务是将描述未知地点的无人机视角或者地面视角的查询图像与参考数据集中带有GPS标签的卫星航拍图像进行匹配,从而确定查询图像的地理位置。然而,不同视角的图像之间存在的视觉差异给跨视角图像地理定位任务带来了挑战。本文针对无人机和地面两种视角下的图像地理定位任务,从特征提取和视角转换两个方面对跨视角图像地理定位任务进行了研究,主要研究内容如下:对于无人机视角图像地理定位任务,本文提出一
随着化石能源的大量消耗,人类文明的发展受到能源危机与环境污染等问题的严峻挑战。为应对挑战,以风能和太阳能为代表的可再生能源得到大规模开发利用。目前,开发利用可再生能源的主要途径是并网发电。这其中,并网逆变器是关键设备。为了在复杂电网环境下安全稳定运行,无源性概念被引入到并网逆变器的相关研究中。本质上,基于无源性设计的目的是在全频段内消除并网逆变器输出阻抗出现负阻成分的风险。本文旨在探索一套兼具通用
随着智能汽车时代的到来,车辆定位对于自动驾驶路线规划、车辆碰撞预警等具有重要意义,基于超宽带(UWB)通信的定位技术由于其厘米级的空间定位能力而受到越来越多的关注。在超宽带通信系统中,用于提供精确本振信号的频率合成器是最为复杂和关键的模块之一,同时车辆复杂恶劣的环境对频率合成器的噪声性能、可靠性等都提出了更为严格的要求。本文着眼于车辆定位中的UWB射频通信应用,设计并实现了一款基于低噪声环形压控振
渗透压差驱动的正渗透(FO)过程凭借其低能耗、高效率和低污染倾向等优势,近些年来受到大量的关注与深入的研究,并且在污水处理,海水淡化及食品加工等领域有广泛应用。然而高性能FO膜的缺乏在很大程度上限制了FO技术的进一步发展。由间苯二胺(MPD)和均苯三甲酰氯(TMC)在聚合物基底上通过界面聚合制备的薄膜复合膜(TFC)凭借其良好的化学稳定性和分离性能等优势受到研究者的青睐,成为目前主流的FO膜。然而
在复杂对抗环境中,目标和干扰成像过程是从混叠的点目标状态逐渐分离到呈现出外观特征。对红外目标的有效识别是实现精确打击的重要因素。从混叠状态尽早识别出目标和干扰的数目位置可为红外目标的识别提供更早期的信息,提高军事打击能力。本文研究了红外目标的抗人工干扰识别算法,主要工作如下:针对对抗初期,目标和干扰在像面混叠,无法分辨数目和位置信息的问题,本文提出了基于多帧粗精结合的空间邻近目标超分辨算法。该算法
免疫检查点阻断(Immune checkpoint blockade,ICB)疗法是通过解除免疫检查点对T淋巴细胞的免疫抑制,从而使宿主免疫系统重新识别和消灭肿瘤细胞。然而,ICB疗法的抗肿瘤作用在很大程度上取决于细胞毒性T淋巴细胞的浸润,这意味着T淋巴细胞浸润程度有限的“冷肿瘤”无法从这种治疗方法中受益。因此,迫切需要提高“冷”肿瘤对ICB疗法的响应率,进而提高ICB疗法的抗肿瘤效果。据报道,化
光电探测器能够将光信号与电信号紧密联系,因此被广泛应用于光通信、生物成像、机器视觉等领域。其中,窄带光电探测器能够实现对光波长(频率)的鉴别,主要被应用于图像识别、生物标记等方向;而偏振敏感光电探测器则能够实现对光偏振态(振动方向)的检测,可被应用于遥感、光学雷达等领域。二者从光的不同维度进行探测,而偏振敏感窄带光电探测器可以同时实现窄带与偏振双维信息的探测。目前,窄带光电探测器和偏振敏感光电探测