应用导向的广义零样本识别方法 ——语义协同表征网络

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:a2009090720
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
零样本学习技术是解决目标识别领域所面临的大数据依赖问题的有效手段,其通过人为引入的诸如属性或者词向量的语义知识建立起可见类和不可见类间的数学联系,从而完成零样本识别。零样本学习可分为早期的传统零样本学习和新兴的广义零样本学习,其中前者仅需识别不可见类,而后者则需同时识别可见类和不可见类,更具应用价值。零样本学习方法又可分为嵌入式模型和生成式模型两类,其中嵌入式模型可实现端到端的训练模式,结构简明,但在广义任务上会引起严重的分类偏误问题,即容易将不可见类误分为相似的可见类;生成式模型虽然能一定程度避免分类偏误问题,但训练过程繁琐,需要引入额外的语义先验,不利于应用。因此,本文致力于解决嵌入式模型在广义任务上面临的分类偏误问题,构建应用友好型的零样本学习网络,该研究具有一定的理论价值和较高的应用价值,其中三个工作重点总结如下:首先,本文对目前少有研究的分类偏误问题进行了数学建模,并提出了局部相对距离作为其度量标准,越小的局部相对距离意味着越严重的分类偏误问题。同时,本文依据该度量标准进行数学分析和证明得出了一个重要结论:提高映射的局部线性能力能够增大局部相对距离从而有效缓解分类偏误问题。然后,本文依据该结论设计了语义协同表征网络。该网络为可进行端到端的训练的嵌入式模型,主要包含三大模块:用于语义表征的协同模块,用于相似性度量的比较模块以及用于图片特征提取的卷积神经网络模块。其中,协同模块采用了一种“分解求和”的思想有效增大了局部相对距离,在提高局部线性能力的同时保留了全局非线性能力,是解决分类偏误问题的关键。同时,本文设计了一系列面向属性输入的应用实验,结果表明该网络有效缓解了分类偏误问题,在采用更少的语义先验的情况下性能超过了现有最优的生成式模型方法。进一步分析表明协同模块能够学到更具判别性的特征和更加均匀的嵌入空间,且整个网络易于实现,具有良好的鲁棒性。最后,本文将单模态的属性输入拓展为属性加词向量的多模态输入,并提出了基于模型集成的后端融合和单模型的前端融合两种多模态融合方法,进一步提升了网络性能。其中前端融合方法充分利用了语义协同表征网络的“协同”特性,对协同模块进行了高维拓展,将多个专家模块组成专家组模块,每个专家组模块负责特定模态的映射,其性能提升幅度更大,也表明了语义协同表征网络的高兼容性和可拓展性。
其他文献
近年来,我国综合国力不断加强,产业结构不断优化,对外开放的力度也不断加大,经济从高速发展转到中高速发展。同时,随着澜湄合作机制的稳步推进,将进一步深化澜湄区域经贸合作,扩大跨境经济合作规模,进而带动整个澜湄区域经济走廊建设。澜湄合作机制成立至今,取得了较大成效的同时,还存在货车不直通、物流成本高、运输效率低、基础设施设备落后、通关便利化水平低、信息化水平低等方面的问题。在这样情况下,在澜湄合作区域
学科课程的核心教学材料是教科书,在教学系统中起着举足轻重的作用。随着上海市二期课改的不断深入,课程政策的逐步开放,全新的课程理念、多样的教科书不断涌现。自然教科书的编写情况也发生了巨大的变化,其中各种类型插图的数量众多。插图的教育教学价值迫切需要关注。作为一种传递教学信息的重要载体,教科书中的插图呈现和文字叙述相互照应,互为补充,不再是可有可无的点缀,它帮助教师构建起完整的知识体系,是教与学的组成
班主任自我管理能力是教师管理的重要组成部分,是提升班主任教师教学水平和提高教学质量的有效途径。班主任自我管理是班主任教师自发的自我管控和约束,为了达成更好的目标而不断激励自己,是以教师为管理主体的一种过程性的管理。近年来,乡镇学校班主任匮乏是我国教育事业均衡发展所面临的难题,也是社会亟待解决的国家教育难题。本研究主要以乡镇九年一贯制学校班主任自我管理能力为主要研究范围,分析乡镇九年一贯制学校班主任
近年来为满足社会经济的发展对公共产品的需要,政府公共项目逐年增多。各类政府投资项目的审计监督成为人们关注的问题。为保证此类项目建设的顺利进行及降低投资风险,更好实现其经济、社会效益,基于风险导向的审计监督越来越受到重视。传统审计模式下的政府投资项目绩效审计主要以财务审计为中心,难以满足政府投资项目审计对效率性、重点性的要求。风险导向审计可以更加全面、客观地去了解分析被审计单位的经营管理风险,针对项
宗教场所旅游是一种以在宗教场所体验宗教文化、进行宗教活动为核心的旅游方式,引起了许多游客的注意。近年来,中国宗教旅游的研究大多是宗教旅游的定义,宗教与旅游的关系,宗教游客的研究。研究方法辅以定性和定量研究,研究结果较少,景区发展超过了理论,因此论文采用微观定量为主宏观定性为辅的研究方法,以山西省宗教场所旅游资源的空间分布为例,主要采用GIS空间分析方法,如平均最近邻分析,标准差椭圆分析,多距离空间
当前世界范围内汉语热持续升温,全球学习汉语的人数快速增长。近年来,不少国家陆续将汉语纳入国民教育体系,海外汉语学习者也呈现低龄化倾向,对幼儿汉语教师形成了较大的需求。华文教育也面临着不同的挑战和机遇,为了满足新一代华裔儿童的汉语学习需求,扩大华文幼儿师资规模和提高华文幼儿教师素质成为华文教育必须面对且急需解决的严峻问题。华文幼儿教师的培养与培训是解决华文幼儿师资缺乏的重要途径。短期培训只能暂时增加
2017年的村级土地利用规划处于试点探索阶段,而城市土地利用规划已经比较成熟。受科学技术影响,政策制定越来越依赖科学与技术,强调纯粹的科学性与技术性忽视了技术的社会、历史、文化及背景,政策和规划缺失公众参与,公众参与的传统知识大多被排斥于科学技术知识之外。在乡村振兴中不少农村的土地利用规划也是直接套用城市土地利用规划方法,欠缺参与式土地利用规划理念及农村特殊性的考虑,传统知识的科学性不被重视,忽视
结合《义务教育物理课程标准(2011年版)》的课程基本理念,注重学科间的渗透,希望通过几何知识应用于初中物理教学,激发学生的创新精神和实践能力。建立良好的思维习惯,为终身发展奠定基础。基于《杠杆》一堂课后的启发,笔者开始关注几何知识在初中物理教学中的应用,通过阅读相关资料,发现几何知识在初中物理教学中应用具有局限性。在初中物理教学过程中,结合数学的知识只有12项,然而几何知识的涉入仅存在3项,需求
微课的出现让传统教育方式发生了改变。微课课程时间短、形式灵活多样。这样的优势让学习者能够利用碎片化时间随时随地进行学习。这种方式十分符合现代人的学习价值观。微课是众多新兴学习和教学模式的重要组成部分。微课平台作为微课的载体,与微课的分享、交流与应用,有着密不可分的联系。论文以《ASP.NET动态网页设计》课程为例,以动机理论驱动的游戏化模型作为理论基础,从微课平台学习者需求、课程教学设计和微课平台
本文利用2008年经济普查数据考察人力资本外部性的来源和作用机制。首先,我们通过构建生产函数的方式来捕捉人力资本外部性,并考察人力资本外部性与城市规模的关系,结果表明城市人力资本对服务业企业的正外部性主要体现在大城市和大企业中,且城市规模越大人力资本正外部性越显著。进一步地,我们通过控制行业间的投入产出关系以排除潜在的影响,结果依然表明城市规模会加强服务业行业内和行业间人力资本外部性对企业收入的促