柔性机构是一种依靠构件自身弹性变形来输出全部或部分运动、力和能量的新型装置。由于柔性机构为无铰链机构，因而具有无运动间隙和无摩擦磨损等优点，在微机电系统、精密定位机构和智能结构等领域具有广阔的应用前景。本论文以连续体结构的拓扑优化设计方法作为研究对象，主要讨论了连续体结构拓扑优化结果中数值不稳定问题及解决方法、分析了节点密度法、提出了多输入多输出柔性机构拓扑优化数学模型及其输出耦合的抑制等问题。针对连续体结构拓扑优化中出现的棋盘格式等数值计算不稳定性现象，本文研究了以节点密度作为设计变量的优化方法，探讨了节点密度法克服数值不稳定现象的根本原因：它确保了设计区域内的密度场函数具有C₀连续性，从而克服了棋盘格式问题。应用节点密度法对热致动器进行了拓扑优化计算，计算结果表明不需要借助滤波处理，节点密度法就能够得到具有清晰拓扑结构的优化结果，真实的反映了机构的结构细节，同时探讨了一定数量的网格数是求得满意解的必要条件。算例表明该方法能够有效消除拓扑优化中的棋盘格式和网格依赖等数值计算不稳定性现象。基于互能原理，本文研究了以互能和应变能比值作为目标函数的多输入多输出柔性机构拓扑优化数学模型，推导了基于节点密度法的多输入多输出柔性机构敏度计算的解析表达式，同时考虑了对输出耦合的抑制，使多自由度的柔顺机构的控制更加容易。同时介绍了拓扑优化的有限元计算步骤及流程，并通过Matlab语言编程来实现。对二维微执行器这一多输入多输出拓扑优化问题进行了研究，在考虑输出耦合抑制地情况下建立了相应的数学模型，完成了敏度分析，并对拓扑优化结果进行了分析比较，验证了该方法满足柔性机构的机构运动特点和结构拓扑优化的刚度要求，在抑制输入、输出耦合方面也取得了满意的效果。本文的工作得到了“大连理工大学青年教师基金2006”的资助。