基于虚拟现实(Virtual Reality)和触觉(Haptics)技术的外科手术仿真系统(Virtual Surgery Simulation System)正在逐渐成为高新技术和医疗领域的前沿课题和研究热点。外科手术仿真系统通过计算机模拟手术场景和过程,让用户(即:外科实习医生)在虚拟环境中借助力反馈设备对虚拟的手术对象进行挤压、抽吸、烧灼和切割等手术操作,达到训练的目的。相比传统的外科手术培训方式,由于外科手术仿真系统具有高效率、低成本、高利用率、可提供多种不同的病理和病人对象、不受道德伦理约束等诸多优点,其为解决手术培训这一长期困扰的难题开辟了一个崭新的途径。同时,外科手术仿真系统也可以用于术前预测、术中导航等领域。生物组织挤压拉扯形变和切割是外科手术过程中最常见的手术常规流程,对该过程完成高精度的模拟是搭建一个外科手术仿真系统的基础。但是因为生物材料特有的粘弹性、不可压缩性、蠕变和松弛特性以及各项异性等属性,使得生物组织的形变和切割模拟成为虚拟手术仿真系统中的难点和关键。目前,外科手术仿真系统中比较突出的两个问题是:一是模拟仿真的逼真程度,二是计算效率。本文针对上述两个问题开展了研究:首先,在分析网格和无网格模型理论的基础上,将模型分为物理建模和非物理建模这两种建模框架,并详细介绍了当前流行的各类仿真模型建模方法,分析了各自的长处和短处。为了更充分地把软组织材料特性描述清楚,提升系统的仿真精度,本文在无单元伽辽金法的基础上,提出了将Kelvin粘弹性引入到仿真模型中,并对肝脏模型开展了形变仿真研究和实现,最终的仿真结果显示本文建立的仿真模型不但比传统方法更好地展示了生物软组织特有的松弛蠕变特性,而且具有良好的实时性能。其次,针对基于网络结构的仿真切割模型需要重组复杂拓扑结构以及基于无拓扑结构方法建立的软组织切割模型在进行切割时切口形态不易绘制、难以施加位移边界条件等缺陷,本文提出了一种基于无单元伽辽金方法的切割模型。该模型采用贝塞尔曲线绘制切口,达到的效果是切口表面光滑,与真实的手术切口吻合一致;另外,采用表面网格方法渲染模型外部,进一步提高了视觉反馈的效果。具体做法是:整个离散的软组织模型在切割发生时被划分为切割路径影响域和切割路径非影响域,同时采用水平集方法对切割影响区内的节点做是否重新进行形函数计算的判断,这样有效地提高了模型的计算速度。本文先在二维结构上展开了切割模拟,试验成果说明了本文所提出方法的准确性和有效性。最后在腹部软组织模型上进行切割仿真实现,仿真结果显示该模型具有较好的视觉效果,同时也提高了仿真系统的计算效率。本文所提出的基于无单元伽辽金法的生物软组织仿真模型和切割模型的最大特点是将材料离散为无网络拓扑关系的离散点,降低了数据结构的复杂性,保证了系统的运行速率。且本文提出的基于无单元伽辽金法的Kelvin粘弹性模型不仅在精确度上比传统方法更逼真,其切割模型在计算效率上也比传统方法具有优势。