结构拓扑优化是优化技术中最具挑战性的研究领域，是一种创新性的设计方法，可同时优化设计对象的拓扑、形状和尺寸，已广泛应用于刚性结构、柔性机构和复合材料微结构设计等方面，对航空航天、微机电系统等领域的发展具有重要价值。 本文结合多材料结构的向量水平集表示、材料界面追踪的水平集算法、梯度投影方法、非线性映射技术、返回映射算法和平均曲率流技术，提出了适用于一般目标函数、多载荷工况、多约束和多材料的结构拓扑优化的水平集算法。并研究了这种方法在刚性结构、柔性机构和复合材料微结构设计中的具体应用。同时，又将拓扑导数理论和水平集算法结合起来，提出了结构拓扑优化的拓扑导数与水平集算法，进一步提高了计算效率。 文中首先介绍了复合材料宏观参数计算的均匀化方法、结构拓扑优化的密度惩罚法和运动界面跟踪的水平集方法，并结合数值算例详细说明了它们的理论基础、计算步骤和物理本质。在此基础上，提出了多材料设计对象的向量水平集表示，将一般拓扑优化问题描述为一组水平集函数的约束泛函极小化问题。然后应用有限导数分析，给出了这一泛函极小化数值迭代求解公式，它实质就是水平集方程，而水平集的运动速度就是材料界面的形状敏度，这样就把拓扑优化问题转化为结构材料界面的追踪问题。为了有效地处理多约束问题，文中将普通内积限制在零水平集上，定义了一个新的向量函数内积，构造了多约束条件下水平集法向运动速度求解的梯度投影法，并证明了最优解所满足的必要条件。同时，还提出了在有效约束切空间上构造的非线性映射技术，以改进向量水平集的演化方向，可提高计算效率2到3倍。为了有效处理违反约束，这里还提出了在违反约束水平集的负法凸锥内构造水平集的法向修正速度的返回映射算法，它可以方便地处理多材料、多约束和含有非设计域的结构设计问题，使初值给定容易。其次在结构拓扑优化中还引入了黎曼测度下的平均曲率流正则化技术，以保证计算结果材料界面的光顺性，并有助于提高拓扑演化过程中的数值稳定性。在这些研究的基础上，提出了适用于一般目标函数、多材料、多约束和多载荷工况的结构拓扑优化的水平集算法4.1，并给出了刚性结构、柔性机构和复合材料微结构设计算法5.1、6.1和7.1，以及大量的数值算例。最后给出了多材料拓扑导数的定义，推导了计算公式，并结合算法4.1，提出了结构拓扑优化的拓扑导数与水平集算法8.2，解决了水平集方法不能在结构内部形成新材料界面的问题，可提高计算效率5至10倍。文中所有的算例都是在Windows2000平台上VC++环境下计算的，程序设计采用了面向对象的方法。 总之，本文主要采用向量水平集表示，将材料界面表示为一组高维函数的水平集，使拓扑优化问题转化为材料界面追踪问题。在优化过程中，这种方法依靠材料界面运动不断地融合、分裂、生成和消除内部的孔，来改变结构中材料界面的拓扑和形状，获得最优解。这一过程可用Hamilton-Jacobi方程来描述，根据粘性解理论，它有效的求解技术使结构边界的拓扑变化能得到简单、自然的处理，克服了一般形状优化方法固定拓扑的局限性。设计结果不仅材料界面清晰、不需任何后处理，而且可以和CAD系统作到无缝连接，方便了拓扑优化和其它设计方法的集成。