基于注意力机制的轻量化U-Net脑部胶质瘤图像分割研究

来源 :西南大学 | 被引量 : 0次 | 上传用户:ll05
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
脑部胶质瘤是全球青少年致死率排名第二的恶性肿瘤,其核磁共振图像的准确分割对诊断和治疗至关重要。随着计算能力与速度的提升,人工智能技术得到了快速发展,深度学习算法在生物医学图像分割中显示出巨大的优势,越来越多的计算机辅助医疗技术应用到临床医学中。U-Net作为医学影像分割的基石,以其编码器-解码器的端对端结构,在脑肿瘤、身体器官、细胞核等分割任务中取得了很好的效果,并为后来的工作提供了研究基础。然而,正是由于这种结构导致网络具有庞大的参数量,对分割速度、内存和能耗带来了很大挑战。针对以上问题,本文从轻量化模型的角度出发,主要做了以下工作:(1)首先,在图像分割任务中普遍存在类别不平衡问题,尤其在医学图像中该问题更加突出,本文分割的脑部胶质瘤图像同样存在类别不平衡问题。为了减少类别不平衡问题对分割准确率的影响,本文提出了用于图像分割的损失函数BCEDice Loss,通过加权求和的方式结合了基于交叉熵的平衡交叉熵损失函数和基于交并比的重合度度量损失函数Dice损失函数。在Bra TS数据集上进行了实验,分别使用本文提出的损失函数和平衡交叉熵损失函数进行了对比,在U-Net和本文提出的网络中都取得了更好的效果。(2)其次,在编码器-解码器结构的网络中,解码器往往只提供一个编码向量给解码器,导致在解码过程中输入信息几乎消失殆尽,细节特征损失严重。因此,本文提出了一种全局注意力模块,可以更好地捕捉长距离依赖。并在该模块模块中融入了传统卷积、空洞卷积、转置卷积三种卷积方式,计算特征图中任意两位置之间的相关性。此外,该全局注意力模块中同时融合了空间注意力机制和通道注意力机制,通过实验验证了模块内部使用级联的连接方式更有利于模型性能的提升。从空间和通道上全方位的获取特征之间的依赖,通过全局注意力模块将空间和通道上的重要特征进行编码,使网络的特征表征能力更强。(3)U-Net被认为是医学图像自动分割的基石,但是由于庞大的参数量时常出现内存占用、速度慢、耗能源的问题。受Squeeze Net网络的启发,本文提出了轻量化网络SU-Net。用Fire模块来代替U-Net中的卷积层,通过改变卷积方式来压缩模型参数量,为了在压缩参数的同时保证网络的分割能力,设计上下采样模块代替简单的池化层和上采样层,避免了直接采样带来的特征损失,并使用损失函数BCEDice Loss训练网络。将U-Net作为基线网络,SU-Net的参数压缩了50%,并将平均DSC从80.40提高到81.34。(4)最终,结合以上提出的BCEDice Loss损失函数、全局注意力模块和轻量化模型策略,本文提出一个全局注意力网络GAU-Net。将全局注意力模块融合到U-Net网络中,在网络中使用了大量的残差连接,以Fire模块和采样操作为主干,旁路连接步长为2的卷积层就可以实现上下采样模块,其实现的作用相当于U-Net中两层卷积和一层采样层,但是大大减少了网络的参数量。在数据集Bra TS上进行了实验,仅以相当于U-Net 5.4%的参数量将平均Io U值从0.65提高到0.75。同时,推理时间也显著缩短,具有相对较好的性能。本文提出的算法,认真考虑了算法实现过程中遇到的实际问题,如内存占用、耗时严重、硬件嵌入难等,在U-Net的基础上对图像分割网络进行了研究与改进,并且在脑部胶质瘤分割任务中取得了较好的结果,为以后的图像分割算法研究和发展提供了一定的思路。
其他文献
服装橱窗一直是品牌视觉营销环节中非常重要的部分,优秀的服装橱窗设计通过传递商品卖点、宣传品牌文化、树立品牌形象,继而吸引消费者消费促进店铺的销售。经济和科技高速发展的今天,消费者需求和市场环境的不断变化,传统服装橱窗静态展示迫切需要融入新的展示形式,实现自身的创新发展。互动展示以其特有的视觉表现力和互动性融入服装橱窗设计中,商品信息的媒介也得以创新,丰富了服装橱窗设计的创意、展示形式、视觉效果,为
棉织物以其良好的舒适性、吸湿性、生物降解性和对人体皮肤的亲和性等特点,广泛应用于服饰、家居、汽车等领域。但是棉纤维是易燃纤维,对人的生命和财产具有潜在的风险。为了提高棉织物的阻燃性能,人们做出了很多努力,使用了各种合成化学原料来提高其阻燃性和耐久性,比如:Pyrovatex CP?和Proban?,但是这些传统的阻燃剂整理的棉织物在使用过程中会释放出甲醛等有害气体,危害人体健康;卤素类阻燃剂,虽然
21世纪以来,中国的工业化和城镇化飞速发展,人口数量也不断增加,人类对土地资源的利用尤其是耕地更加频繁无序。城市用地不断外扩,占用耕地而加剧了耕地非农化,耕地面积不断下降,导致耕地的数量和质量大打折扣。因此耕地保护已经刻不容缓,这使得作为耕地保护的有效管理指标耕地价值成为学者们关注的重点。科学全面认识耕地价值内涵、核算方法以及研究其空间分布规律对保护耕地、合理利用耕地非常重要。本文主要从耕地价值的
深刻剖析时代问题是每一政党和国家前瞻性思考和全局性规划发展大计的基础,把握时代脉搏、顺应时代浪潮是党和国家迈向高水平发展的客观要求。列宁时代观是马克思主义时代观发展到新阶段的理论结晶,是列宁投身伟大革命研究世界未来走势的科学思想,是俄国革命走向胜利、殖民地获得解放的制胜法宝。列宁时代观作为党和国家理论宝库中的组成部分,在时代变迁中依旧熠熠生辉,有助于我们在新时代谱写发展新篇章、书写奋进华章。研究列
随着工艺技术与硅基光子技术的迅速发展,晶体管的体积越来越小,集成在单一芯片上的晶体管数量也越来越多。电路的集成度日益增大,片上多核处理器系统(Multiprocessor systems-on-chips,MPSo Cs)应运而生并得到了广泛的关注,如何实现处理核之间的高效互连是MPSo Cs的研究重点。片上网络(Network-on-chip,No C)是一种新型的通信方法,其借鉴了分布式计算系
家蚕(Bombyx mori)是一种重要的经济昆虫,以家蚕为对象开展研究既能为其他昆虫或者哺乳动物提供一定的理论基础,也能为养蚕业指引新的方向。家蚕核型多角体病毒(Bombyx mori nucleopolyhedrovirus,BmNPV)是一类对蚕业生产危害严重的病原,世界各地养蚕业往往由于该病毒导致的蚕病而承受巨大的经济损失。长期以来,对这种病毒病还没有很好的防治方法。尽管目前已有一些家蚕抗
随着信息技术、媒体技术的不断发展普及,思想文化呈现出以文字语言为中介的抽象表述向以图像为中介的视觉表达转化的倾向。即世界越来越多的被呈现为图像,图像越来越成为人们理解和把握世界的方式。在人们的认知模式、思维方式趋于视觉化的当下,我们看什么以及看到了什么?没看到什么?如何去看?这些问题无不涉及意识形态的巨大作用。全文期以意识形态与图像叙事的交汇为基点,在深入分析意识形态图像叙事的实践成果与理论成果基
关注人本身和人生存发展状况的马克思人学思想贯穿马克思一生的学术著作,是马克思思想体系组成部分中的重要一环,在马克思主义理论体系中占据重要地位。马克思在《德意志意识形态》中提出和阐述的“现实的个人”概念,标志着他与以往的哲学家们基于对人的错误性认识和狭隘性理解基础上而构建的“抽象的人”思想泾渭分明,为马克思人学思想体系的发展增添了新的且具有革命性意义的科学内容,同时,以“现实的个人”为理论前提而初步
八十年代中后期,纷繁芜杂的诗歌团体、流派、实验渐次登台,为诗歌创作打开了多条通道,但也过度消耗了诗艺拓展的可能。在这个阶段,由于生活重心的转移,诗歌所承担的社会、政治、伦理职能,在群众心理中的位置,已逐步滑落、衰减。正是在这样一种复杂、不稳定的状态下,戈麦走入了诗坛。其实,在戈麦的人生预设中,诗歌并不是他的最初选择。按照西渡的记载,戈麦一开始甚至对诗歌抱着一种拒绝的态度,后来生活中发生的一些重要事
忆阻神经网络作为类脑研究的重要算法之一,备受国内外众多学者的关注。而稳定性是忆阻神经网络最基本的动力学行为之一,其理论研究涉及到微分方程、Lyapunov稳定性理论、脉冲控制理论、生物科学、计算机科学等学科知识。忆阻神经网络稳定性相关成果已广泛应用于模式识别、语音合成、联想记忆等实际工程。众所周知,含有脉冲控制、固定时滞、时变时滞、混合时滞、输入饱和等因素的忆阻神经网络是较为常见的忆阻神经网络,其