随着现代医学成像技术的不断进步，医学图像为医生无创诊断和后续治疗提供了有效的手段。从医学图像中准确的分割医生感兴趣的组织，是计算机辅助诊断和手术规划的一个基本而重要的步骤。分割结果的精度在很大程度上会影响医生对疾病真实情况的判断，进而影响诊断结论和治疗方案。因此，准确的医学图像分割对基于影像的临床诊断和治疗具有重要的意义。　　然而，准确的医学图像分割是一个具有挑战性的问题。由于成像机理、目标器官的运动、解剖结构的复杂性和周围组织与病灶的干扰等原因，很多情况下医生感兴趣的目标器官在图像中没有明确的边界，而且器官的形状和外观也不尽相同。这些使得医学图像分割一直成为医学图像处理的一个研究热点。　　本文讨论了基于机器学习可变形模型的医学图像分割。在分析现有方法的基础上，详细讨论了可变形模型的两个重要部分：外观模型和形状模型。为了增强目标器官的边缘，我们提出了基于边缘回归的外观模型及基于稀疏学习的局部外观模；为了更好的建模器官形状，我们提出了基于稀疏学习的局部形状模型。在此基础上，针对具体的临床应用，把提出的外观和形状模型应用到三维前列腺与直肠和二维肺场的分割中，取得了满意的分割效果。本文的主要工作和贡献如下：　　1.提出了一个新颖的基于边缘回归的外观模型。目前，回归森林主要用于二维器官标记点和边界框的检测，通过给活动形状模型上的每个点训练一个标记点检测器，引导可变形模型分割目标区域。然而把回归森林应用于三维图像时，由于三维形状模型上大量的顶点和为标记点检测器建立三维点对点对应关系的困难，作为标记点检测器的回归森林不适合用来引导三维可变形模型。本文引入随机森林作为边缘回归器为整个目标器官的边缘投票。算法根据图像体素的局部外观特性，使用回归森林预测从给定的体素到最近目标边缘点的三维偏移量。依据预测的结果，从不同的位置给目标器官的整个边界投票，得到边缘投票图。然后通过沿每个模型点的法线方向寻找最大投票位置，边缘投票图可以把可变形模型引导到目标边缘上。这样，基于边缘回归的外观模型避免了训练数量巨大(和模型点数相同)的标记点检测器，以及建立准确的三维点对点对应关系。　　2.提出了一个新的基于稀疏学习的局部外观模型。在传统的Active ShapeModel(ASM)中，基于手动标记点的外观模型假设是服从高斯分布的。然而这个假设在许多的应用中并不成立。为了解决这个局限性，基于稀疏学习的局部外观模型通过聚类的方式将目标边界分成外观变化一致、空间连续的边界段。在每一个边界段上，算法学习一个判别字典，建立一个基于稀疏表示分类的局部外观模型。然后，根据稀疏表示的残差把每个体素分类为目标区域和背景区域，并通过沿模型点法线方向寻找阶跃型边缘引导可变形模型分割。实验证明，基于稀疏学习的局部外观模型可以取得比基于高斯分布的外观模型更好的分割性能。　　3.提出了一个新的基于稀疏学习的局部形状模型。在传统的ASM中，基于高斯分布的假设，形状模型是使用整个分割目标的形状通过Principal Component Analysis(PCA)来建立形状模型。在实际应用中，由于形状变化复杂，很少能满足高斯分布的要求。因此PCA的主要形状变化不能很好的表示各种各样的形状。如果形状细节在统计上不显著，就有可能被忽略掉。为了更好的描述目标形状的细节，算法通过聚类的方法将整个目标形状划分成变化一致的形状段。在每个形状段上，构建稀疏表示的形状字典。在基于可变形模型的分割过程中，我们在每一段上使用Sparse Shape Composition约束形变的形状，引导目标的分割。实验表明，在形状变化复杂的情况下，基于稀疏学习的局部形状模型能更好的建模形状的细节。　　4.提出了一个基于边缘回归的分割框架，并应用于三维CT图像的前列腺和直肠分割。由于边缘附近的体素比那些更远的体素在边缘预测时可以提供更多的信息，我们限制那些距离远的体素投票，只使用边缘附近的区域预测目标边缘。通过结合自动上下文模型，训练一系列的基于边缘回归的外观模型，迭代的增强边缘预测的准确性。然后基于得到的边缘投票图，并结合形状先验，我们使用可变形模型分割前列腺和直肠。实验结果表明，本文提出的基于回归的边缘增强方法比基于分类的边缘增强方法可以取得更好的分割结果。相比于最新的方法，本文的方法也取得有竞争力的分割精度。　　5.提出了一个基于形状和外观稀疏学习的肺场分割方法。首先，该方法利用基于结构约束的标记点定位和稀疏形状表示，设计了一个鲁棒的初始化方法来产生一个初始形状。其次，采用一组局部Sparse Shape Composition(局部SSC)模型分段描述肺的形状，使形状表示更加灵活，而且保持了局部的形状细节。然后，为了处理肺边界外观不一致的情况，我们把肺边界聚类并划分成具有相似外观特征的若干段，采用基于稀疏学习的局部外观模型，有效的引导形状的形变。最后，结合尺度相关的形状和外观信息提出了一个层次化的分割策略用于有效的肺场分割。实验结果表明，我们的方法好于绝大多数最新X光胸片肺场分割算法。