传统手术训练使用人类的尸体、动物或橡胶人体模型作为训练对象，存在着尸源短缺、成本昂贵、与真实人体组织特性差别较大及迫害动物等诸多局限和问题，计算机技术的迅速发展使得数值模拟技术逐渐成为解决此类问题的重要手段，研究人员开始探索将虚拟现实技术应用于医护人员的外科手术培训中，通过建立集成有视觉显示、力觉再现、听觉、嗅觉等多感知的虚拟手术环境，给予医生逼真的手术场景，实现手术培训教学、术前规划、术中辅助支持、术后分析、复杂手术的反复演练等全面训练医护人员的目的。虚拟现实技术与现代医学的结合为高科技医学技术的发展提供了广阔的空间，也使得虚拟现实技术面临一个崭新而艰巨的挑战。在实际手术中，医生主要依靠视觉与触觉反馈信息进行手术操作，因此虚拟手术系统大都是针对视觉与触觉两大方面的仿真研究，通过视觉反馈直观地呈现出逼真的虚拟手术场景及操作对象，利用触觉反馈感受虚拟环境中力的作用并对操作作出及时、正确的判断。本文也是从视觉与触觉反馈两方面出发，选择典型的且难度较大的人体软组织器官作为研究对象，紧紧围绕虚拟手术中具有代表性的形变与切割两项关键技术展开深入的研究，主要工作如下：首先，针对图像的手动分割工作量大及自动分割精度不高的问题，提出了将手动分割与自动分割相结合的医学图像分割方式，重建了具有人体解剖结构特征的胃组织及肝脏组织的几何模型，并对其进行视觉渲染与纹理映射，从而得到了真实度较高的人体软组织模型；对力反馈技术及反馈力的计算与测试方法进行了研究，提出了基于PVDF（Polyvinylidene Fluoride，聚偏二氟乙烯）压电薄膜传感器的反馈力测试方法，并应用于软组织形变与切割模拟中反馈力的测试上。其次，针对医学触诊的特点及现有形变仿真建模方法的不足，提出了可变区域的局部质点-弹簧/阻尼器（ALMSDM）模型，该模型具有位置可变及区域可扩展的优点，改善了以往文献中局部建模方法区域限定及全局的面模型形变恢复能力差的问题，并在虚拟软组织面模型与体模型中得到了较好的应用。从系统实时性的角度，针对ALMSDM在面模型与体模型中的应用，分别提出了顶点法向量的局部更新思想与预计算策略，使系统的实时性得到了较大的改善。从形变恢复能力、反馈力分析及实时性评测三方面对面模型与体模型的ALMSDM进行了评价，进而验证所提算法的可行性与通用性。再次，创新性地将无网格法理论应用于虚拟手术的形变建模中，在对质点积分无网格伽辽金法进行深入研究的基础上，针对虚拟软组织形变多为大变形的特点，提出了一种改进的质点积分无网格伽辽金法，并采用二维梁理论对所建模型进行了理论验证；然后基于改进算法建立了虚拟软组织形变仿真的静态模型与动态模型，在静态模型仿真中采用静态位移累加的方式实现了动态形变过程的模拟，与动态模型相比，其速度很快，但由于缺少中间连续变化的过程使得该模型计算精度不高；动态模型的形变仿真计算量相对较大，本文综合考虑了动态模型的特点及虚拟手术实时性能的要求对模型进行了近似求解。仿真实验与对比分析表明，无网格法在软组织形变仿真中表现出良好的稳定性和可靠性，避免了基于网格建模方法在模拟大形变时容易出现网格扭曲、锁死等问题，解决了虚拟软组织大变形时误差大的问题；最后采用PVDF传感器对动态模型的实际反馈力进行测试，并与反馈力模型计算得到的数据进行对比分析。本文最后对虚拟手术切割算法进行了研究，针对现有切割算法存在的问题，提出了切口边界独立绘制的方案，即切口边界的绘制不再依赖于网格破裂后的拓扑重组；结合切口的特点及样条方法的优越性质，提出新颖的基于Bézier曲线的切口再现算法，解决了切口绘制不光滑的问题；通过在区域边界点与Bézier曲线之间直接添加弹簧约束的方式，使模型能够灵活、真实地控制切口的张裂度，实现了切口弹性张开的逼真效果；对切割操作中含摩擦力与不含摩擦力的计算模型进行了理论与实测的对比分析，并设计了手术切割后摘除异物的仿真实验。