基于元学习优化的度量小样本分类研究

来源 :桂林电子科技大学 | 被引量 : 0次 | 上传用户:zhouyulong456
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
如今的深度学习算法,大多需要通过海量的数据集来训练神经网络,然而在很多应用场景下,获取样本十分不便,从而导致样本数据十分匮乏。而少样本学习任务的目的,则在于可以从单个或少量的训练样本中快速学习。元学习方法,通过总结抽象出不同任务之间一般化的元知识,然后将元知识快速应用到新的,未曾见过的任务上去,从而去解决少样本学习的问题。因此,本文以少样本图像分类问题为研究对象,研究如何利用元学习方法来优化度量模型,从少量图像样本中快速学习归纳。论文的主要内容如下:
  (1)构建了元关系网络来解决少样本分类问题。采用模型无关的元学习算法,来寻找深度度量模型的最优初始化参数。从而使得深度度量模型,可以在面对新的分类任务的学习样本时,不仅仅是比较学习样本和测试样本之间的相似度,而能够进一步学习到训练样本本身之间有用的信息,并且模型的最优初始化参数可以使得算法只需要少量的梯度更新步骤,就可以接近问题的最优解。实验结果表明,经过元关系网络具有较强的泛化性能,进一步提高了在各种基准数据集上的分类精度。
  (2)构建了元注意力查询网络来解决少样本分类问题。通过查询样本与每类中学习样本的相似系数,来获取每个类别的质心原型表征,这种表征更具有判别力。利用自注意力的结构,为每个分类任务定制一个单独的嵌入空间,这种嵌入空间对于给定的分类任务,可以获取到最有区分能力的视觉特征。最后通过点积注意力来优化模型无关自适应算法,使得算法能够对不同任务的有不同的关注程度,从而使得不同任务对模型的优化贡献有所侧重。实验结果表明,元注意力查询网络可以使学习更具有效性,进一步提高在基准集上的分类精度。
其他文献
淮安市清江浦区历史悠久、人杰地灵,非物质文化遗产项目众多,其中《骨康药酒外敷技艺》《浦楼白汤酱油酿造技艺》项目已列入江苏省非物质文化遗产名录;《蛋雕》《烙铁画》《剪纸》《中国结》等32个项目已列入淮安市非物质文化遗产名录。   优化阵地建设,提升服务水平。近年来,淮安市清江浦区扩展、新建一批非遗展示场馆,为非遗传承人提供产品创作、技艺展示、培训拓展等优质服务。在清江浦文化馆内建设清江浦区非遗保护中
期刊
绿水青山就是金山银山。2020年金湖成功创建国家全域旅游示范区,在“杉青水秀”的金湖也有这么一处迷人的地方,被称为“江苏的塞罕坝”,那就是金湖水上森林,它承载了一种宝贵的植树造林精神。   水上森林景区位于金湖县银涂镇境内,南临高邮湖,北接宝应湖,占地总面积12000亩,现为国家“AAAA级”景区、恩来干部学院党性教育基地,也被称为“江苏的塞罕壩”。   五十多年前,这里只是湖荡中一片一望无际的芦
期刊
2020年3月30日,淮安市文化旅游集团股份有限公司揭牌成立。市文旅集团是市委、市政府为深化国有企业改革,通过优化重组成立的市属国有文旅龙头企业。成立一年多来,市文旅集团按照市委市政府“绿色高地、枢纽新城”发展定位,围绕“四个淮安”工作布局,聚焦大运河文化带建设、全域旅游及文旅融合发展,书写淮安文旅产业高质量发展大文章。  聚焦大运河文化带建设书写“美丽中轴”最佳诠释   淮安依运河而生、因运河而
期刊
初始对准是捷联惯性导航系统的关键技术,它的好坏直接影响捷联惯性导航系统导航的性能。对准时间和对准精度作为衡量初始对准性能的两大重要指标,为进一步缩短对准时间,提高初始对准性能,本文针对捷联惯导系统的粗对准、精对准和大失准角下的传递对准展开了如下研究:
  (1)在捷联惯导初始对准中,由于载体的水平姿态收敛速度明显快于载体航向的收敛速度,为实现摇摆基座快速粗对准,仅需提高载体航向的收敛速度即可,针对这一现象,提出了一种通过多矢量粗对准算法得到水平姿态,然后利用粒子群算法快速估计出载体航向角的方法。通过
徐玉海,1962年出生于河北,由于父亲是连云港人,13岁那年徐玉海随父母举家回到了连云港。1986年从南京工业大学本科毕业,同年留校任教。后于1987年公派出国学习,徐玉海到纽约州立大学进行研究生深造,并获得土木工程硕士学位。如今,徐玉海可以说是身兼数职。分别担任美国奋特国际集团总裁、中国侨商总会常务理事、江苏省侨商總会副会长、连云港侨商会常务副会长、圣·奥本国际双语学校董事长等职务。  人在海外
期刊
近年来,黄花塘镇坚持因地制宜,始终将生态优先理念融入特色产业发展,加快农房改善项目与文旅产业有机融合,立足于我为群众办实事,徐徐舒展开“文旅+产业+农房”的美丽乡村画卷。  慢烹细品锁鲜香,记忆老鹅舌尖味   “老板,你家的烧鹅真是太香啦,一会儿吃完再帮我打包一份,带回去给朋友尝尝!”一位游客对老鹅赞不绝口、直呼过瘾。   将鹅毛用镊子拔净并切块,翻炒十五至二十分钟,香喷喷的鹅油从肉中溢出,再放入
期刊
酒店管理是一门学问,而且还是实践性非常强的学问。有这样一句名言“酒店是社会中的社会,城市中的城市,家庭中的家庭”。可见,酒店又是一个非常复杂的经济实体,它以其特有的有形设施和无形的服务,构筑成以人为本、和谐传情的服务主体。   朱光武先生,1962年6月8日生于香港。现任宏源投资(香港)有限公司董事長、金湖宏源国际大酒店有限公司执行董事总经理,江苏省旅游饭店协会理事、淮安市烹饪协会执行会长,201
期刊
为什么我的眼里常含泪水?因为我对这土地爱得深沉。———艾 青      在台商马景鹏的脉管里,同样奔腾不息着父辈传承给他的血液,鲜红而炽热。   马景鹏,1958年出生于台湾新北市,祖籍灌南县花园乡(现灌南县新集镇)陡湾村。自从懂事起就在父亲的灌输下对大陆那头的家乡有种莫名的向往,至今仍记忆犹新的是父亲常对他说的,他们的老家在“江苏省灌云县响水口障西乡陡湾庄”十五个字。而记忆最深刻的,则是父母与舅
期刊
凤城泰州“凤凰墩”上梅兰芳纪念馆内,收藏着一幅1957年周恩来与梅兰芳亲切交谈的合影。旁边镌刻着一段周恩来对梅兰芳的评介:“梅兰芳这位伟大的艺术家,不仅是属于中国的,应该说,他是属于世界的。”这一照一评正是周恩来身体力行,亲自开展统战工作,广交党外朋友的最佳写照,充分展现了周恩来对统一战线代表人士的深厚情谊,和做好统战工作的高超艺术。  周恩来亲自做梅兰芳思想工作   做好党外代表人士思想政治工作
期刊
大数据时代,信息的数量和形式愈加庞大多样,传统的信号处理技术已不能满足人们对信息的正常需求。压缩感知(Compressive Sensing,CS)作为一种全新的现代信号处理理论,突破了奈奎斯特采样定理的限制,能够用较低的采样率实现对稀疏信号的精准重构,大大降低信号获取、传输、存储和处理的成本。基于这些特点,压缩感知理论一经提出就引起了广泛关注,被应用到了诸多热门领域中。本文研究的是压缩感知理论在图像融合和数字图像水印两个领域上的应用,主要工作内容如下:
  (1)提出了一种基于小波变换的压缩感知图