随着机器人辅助手术系统在临床上日益广泛的应用,手术医生的训练、术前规划等问题已经成为亟待解决的问题,虚拟手术仿真系统作为解决这些问题的新途径也逐渐成为研究的热点。虚拟手术仿真系统可以解决传统手术培训中的诸多限制,并且基于软组织的三维重建也能够快速实现手术方案制定等过程。术前规划是手术的准备工作,对手术模拟的顺利进行至关重要。此外,在传统的机器人辅助虚拟培训系统中,医生在虚拟视觉的导引下操作主手,从而控制虚拟微器械实施相应手术操作,这种方式主要依赖视觉,缺乏多维力反馈,医生无法感知虚拟软组织的多维受力情况,使手术培训缺乏临场感、沉浸感,而力反馈的基础则是软组织的力学特性模型。研究与之相关的术前规划和软组织建模技术对虚拟手术仿真系统的发展具有重要意义。本文在国家自然科学基金项目（61203358）和黑龙江省自然科学基金（F2015034）的资助下,主要针对虚拟手术系统术前规划和建立以软组织真实力学特性为基础的虚拟软组织模型两个关键技术问题,在执行系统动力学建模及分析、术前规划优化方法、软组织力学特性、虚拟软组织建模等方面展开了理论分析与实验研究。具体工作包括:首先,对机器人辅助手术系统进行了介绍,基于拉格朗日方程建立了手术执行系统中持镜臂与持械臂的动力学模型,通过建立机械臂的虚拟样机进行动力学仿真,验证了模型的正确性;考虑到手术过程中远心点处机械臂与腹壁会发生力的作用,通过对远心点力的分析,提出一种基于完整动力学模型来估计持镜臂远心点受力的策略;通过印压实验建立了软组织的简单力学模型,将其融入到持械臂动力学模型中以建立完整的动力学模型来分析手术过程中呼吸、关节间隙对远心点的影响,并提出一种基于持械臂完整动力学模型的外力估计策略。其次,针对远心点调整机构,以全域空间内运动灵巧度和远心点误差均值作为优化指标,对远心点调整机构进行尺寸优化以提高摆位性能;通过建立腹壁的数学模型,基于病灶的特征参数与最优三角形准则对手术切口位置进行优化;通过手术执行系统坐标系归一化,提出一种多臂系统的腹腔外协作空间指标,基于双协作空间指标和最优手术切口位置提出一种用于手术多臂系统初始摆位的优化算法,并利用仿真和搭建的手术机械臂虚拟摆位系统验证了所提出的术前规划优化方法的有效性。第三,通过对肝脏组织进行无侧滑压缩实验获得其准静态响应,进行非受限压缩实验获得其应力松弛响应,基于多种群遗传算法的逆有限元参数反演得到肝脏组织的本构模型参数;在得到的软组织模型参数的基础上,通过有限元分析研究非受限压缩实验中存在的摩擦对软组织力学响应的影响,提出一种基于压缩过程中样本径向形变差异百分比的摩擦估计方法,并通过有限元分析确定了估计模型系数,并对估计精度进行了仿真验证;针对非受限压缩实验中存在的预加载力问题,提出一种基于线性加载区域来消除软组织弹性响应中预加载力影响的方法,并通过实验验证了方法的有效性。最后,针对虚拟手术仿真系统进行了研究,采用了两种不同的主从映射方法来分别实现持镜臂及持械臂的主从控制,提出一种消除主从运动控制过程中存在的人手抖动问题的方法,并结合持镜臂与持械臂的动力学模型验证了该方法的有效性;搭建了包含虚拟软组织和手术执行系统模型的虚拟手术仿真系统,基于混合包围盒来实现虚拟微器械与虚拟软组织之间的碰撞检测;利用软组织的真实力学特性建立有限元模型,建立加载位移与形变半径之间的数学模型,并通过对比建立的离散单元组合模型与有限元模型的力学响应,得到基本离散单元的参数,并作为软组织物理模型参数应用到虚拟系统中;利用phantom力反馈主手和虚拟手术系统进行仿真,实现对软组织的按压、拉伸操作,为进一步开发具有更加真实的视觉反馈和力反馈的手术仿真系统提供技术基础。