基于滤波器组的卷积网络的优化及应用

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:wrothnpc
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,卷积神经网络在以识别与分类为代表的诸多图像处理任务上大放异彩。但是与其引人注目的性能相对的是,卷积神经网络的理论解释仍然匮乏。当前,诸如广义特征提取子、信息瓶颈理论以及卷积稀疏编码等理论从各自独特的视角为神经网络的解释添砖加瓦,而本文将视角集中在一类基于滤波器组的卷积网络上。首先介绍了这类卷积网络的研究背景以及国内外的研究现状,从基于小波核和取模运算的散射网络到更加具有一般意义的基于半离散框架的通用特征提取子。这些工作将聚焦于构建非训练的特征提取子用以解释、替代当前流行的卷积神经网络的层级卷积结构。但由于出发点在于分类任务上,这些网络的构建过程中引入的非线性层限制了其在图像逼近、重构任务上的表现。由此,本文以基于滤波器组的卷积网络为研究对象,在保证网络完美重构能力的前提下,致力于网络的优化,并尝试在图像压缩任务上进行应用。由于上述卷积网络一般是手工设计的,因此其结构在具体应用中并不能保证是最优的。针对这一问题,提出了结构选择方法。首先,为了将问题描述的更加清楚,本文提出了基于滤波器组的卷积网络的定义,并介绍了这种网络的性质。接着,描述了包含了层数限制下所有可能的网络结构的树状结构库,并提出了在该结构库上进行结构选择的方法。在解决结构选择的问题后,将视角集中在一种具体的基于可分离径向方向滤波器组的卷积网络,并尝试将这种网络应用于图像压缩任务中。该卷积网络在设计时为将图像的尺度和方向信息分离而采用了共轭拓展,但也因此将卷积网络中传递的信号变为近似行对称的,导致最终的输出相对冗余。为此,本文提出了一种对该卷积网络输出的分解系数去冗余的方法,在保证完美重构的前提下减少了分解系数的数量。进一步地,为了将该网络应用在图像压缩任务中,从子带编码的角度出发,探究了这种卷积网络的分解系数间的关系。在这部分,本文以互信息为度量标准研究了径向和方向上子带间的相关性,并提出了一个扩展空间方向树,为类SPIHT(Set Partition in Hierarchical Tree)编码算法提供指导。为了充分利用子带内系数间的相关性,对原始码流中的不同符号用原语做区分,并为显著性编码过程中产生的符号建立了非线性模型用于0/1预测。为提升网络性能,还提出了一种包含非线性完美重构单元的卷积网络,说明了基于滤波器组的卷积网络向非线性结构拓展的可能性。和上述基于滤波器组的卷积网络相同,该网络具有完美重构的能力以及多尺度分解的功能。
其他文献
近几年,随着经济水平的提高和人们生活观念的转变,以及国家对儿童青少年身体素质重视度的不断提高,越来越多的家长开始关注运动锻炼给孩子身心健康及未来发展带来的积极影响。在这样的背景下,儿童体适能培训在全国各大城市迅速开展起来。作为新兴的体育培训经营场馆,儿童体适能场馆在发展初期难免会面临行业标准不统一、市场运营不规范、教学体系不完善、经营管理不专业等问题。因此,为了促进儿童体适能场馆的健康可持续发展,
学位
船舶工业作为我国传统制造业中的典型代表,其发展情况一直是国家重点关注的。在科技发展的新时代,船舶工业同很多传统制造业一样,面临着转型改革的机遇。但是船舶工业产业链条长、污染性较大且辐射带动作用大,一个环节的变动就会牵扯到上下游产业链的变动,每一步创新举措都需要慎重选择。本文从船舶工业发展现状出发,对比其他制造业的改革路径,结合物联网技术研究船舶工业绿色创新系统的运行过程。同时通过对现有制造业创新模
自1974年J/Ψ在实验上被发现起,粒子物理领域又有了一个重要且富有意义的研究课题——重夸克偶素物理。经过四十多年时间的研究,重夸克偶素物理依然吸引着来自理论和实验物理
纵观整个人类社会的发展,都伴随着科学技术的不断进步,每一项科学技术的出现都对人类社会的进步有着深远的影响,而且关键领域突破性技术的出现甚至会引领整个产业及人类社会发展的颠覆性变化。而材料作为科学技术发展的产物,新材料的出现又为技术的发展提供了肥沃的土壤,液态金属材料作为近代进入人们视野的一种新材料,其区别于其他金属材料所表现出来的独特的物理和化学特性为科学技术的发展提供了不同的思路,随着科技和社会
学位
本文综述了近年来水性膨胀型钢结构防火涂料的研究进展,从膨胀型阻燃涂料的成分出发,比较详细介绍了国内外成膜物的研究现况;并对常用的主要膨胀型阻燃体系,包括炭化剂、脱水
随着制造行业自动化水平的不断提高,导致其许多用电设备对电能质量的要求愈发严格,其中以电压暂降问题最为突出,直接制约了优质工业供电园区的建设。现存的电压暂降治理装置
科研成果的应用转化是数十年来我国经济发展的持续已久的目标,管理层为此大声疾呼、政策鼓励、项目资助。本世纪以来,面对我国经济发展面临产业升级的拐点,科研成果的应用转
目前,国内资本市场正处于深刻的变革期,各个行业也伴随着发生新的发展变化,于此,并购重组事件的发生也愈发频繁,成为上市公司进行战略调整和主营业务转型升级的重要手段之一
高校来华留学生的学习质量是我国国际教育事业中的重要组成部分,关注影响留学生学习倦怠的因素,保障其培养质量,既是国际教育事业的重点,也是目前心理学的研究热点之一。心理资本作为一种稳定的心理状态,是一种具有积极导向的、可再生的非稀缺资源。被视为可开发的、可长期保持人才竞争优势的新型战略资源。心理资本的投资和开发是个人创造竞争优势的基础和动力,探寻心理资本与学习倦怠关系,通过提升个体的心理资本水平,使个