PET(Positron Emission Tomography)是一种分子水平功能成像技术,能描述病变组织与正常组织代谢功能上的差异。PET成像能有效检测人体组织的早期病变,已成为癌症早期诊断和治疗的重要工具。精确分割PET图像中的肿瘤区域对癌症治疗非常重要,它能确保在放疗过程中将放射剂量最大程度地作用于癌症组织,同时减少对周围正常组织和重要器官的伤害。然而,由于部分容积效应的影响,PET图像中的肿瘤边缘是模糊的,且PET图像具有高噪声和强度不均匀的特点,精确分割PET图像中的肿瘤区域非常困难。CT(Computed Tomography)是一种解剖成像技术,提供人体的组织结构信息,比PET成像的分辨率高,结合PET和CT图像的互补信息能提高肿瘤的分割精度。本文主要研究如何根据PET和CT图像的特性设计先进的肿瘤分割方法。PET图像的模糊特性和高噪声特性导致精确定位肿瘤边缘异常困难,考虑到图像复原和目标分割具有相互促进的关系,本文将全变分半盲解卷积方法和Mumford-Shah(MS)分割方法集成到一个变分框架中,设计了一个可以同时实现PET图像复原、肿瘤分割和模糊核估计的变分模型,并根据PET图像的特性,在变分模型中设计了自适应多重正则项,即在肿瘤边缘处使用具有边缘保护优势的全变差(Total Variation,TV)正则,在非边缘区域使用具有光滑性质的吉洪诺夫正则。CT成像比PET成像的空间分辨率高,融合CT图像信息能提高PET复原和肿瘤分割的精度,本文在上述同时实现PET复原和肿瘤分割模型的基础上,进一步设计了一个具有PET复原功能的PET/CT多模态肿瘤分割方法。该方法结合PET图像高对比度和CT图像高分辨率的优点,自适应地使用PET和CT图像的优势信息定位肿瘤边缘。CT图像结构比较复杂,肿瘤区域和正常软组织区域的图像强度相似,正常组织的边缘也会干扰肿瘤边缘定位,考虑到深度学习方法在处理复杂问题上的良好性能,本文进一步提出了基于深度学习及变分法的PET/CT多模态肿瘤分割方法。首先构造了一个三维全卷积神经网络(Fully Convolutional Network,FCN),使用该网络从CT图像中提取肿瘤的概率信息;然后设计了一个模糊变分模型,该模型能自适应地融合从CT图像中提取的概率信息和PET图像的强度信息,通过优化该模型得到最终的肿瘤分割结果。虽然深度学习方法已在图像分割领域展现出明显优势,但它依赖于大量有精确标签的训练样本。在医学图像处理领域,很难获取足够的训练样本,并且样本标签的标注也耗时耗力,为了更广泛地利用深度学习网络处理医学图像分割问题,本文设计了一个基于PET肿瘤分割任务的损失函数,提出了一种基于三维全卷积神经网络的无监督深度学习分割方法。使用设计的损失函数引导三维全卷积神经网络的自学习过程,网络通过自学习达到稳定状态之后就能直接执行分割任务。最后,本文总结了PET及PET/CT图像分割中还需要解决的问题,以及今后的研究方向。