连续体结构的拓扑优化是结构优化领域当前的研究热点同时也是最具有挑战性的研究课题。目前,连续体结构拓扑优化问题中的结构分析部分主要是基于有限元数值计算方法,但有限元法在应用的过程中存在一些固有的缺陷。有限元法在处理大变形和移动边界等问题时,计算中需要不断重构网格以解决网格畸变和网格移动等问题；同时,由于有限元技术是利用单元网格离散问题域,在优化的过程中常常会出现一些数值不稳定现象,如单元铰接、网格依赖性和棋盘格现象等。无网格方法(Meshless Method)是近年来迅速发展起来的一种新型的数值计算方法,这种方法不再使用预先给定的相互联结的单元来离散问题域,而用一系列独立分布的节点来表示求解区域及其边界,避免了网格的初始划分和重构,可以部分或者彻底地消除网格,在保证计算精度的前提下可以减小计算的难度。本论文将无网格方法引入到连续体结构拓扑优化中,深入而系统的研究了连续体结构的拓扑优化以及实现方法。本文首先综述了结构拓扑优化的发展历史以及国内外研究现状,对典型的拓扑优化方法进行了回顾。同时,综述了无网格方法的发展历史和国内外的研究现状,介绍了无网格方法在结构优化领域中的研究现状。随后对基于无网格方法的连续体结构静力拓扑优化问题、动力拓扑优化问题和非线性拓扑优化问题进行了研究。分别将局部弱形式无网格方法和全局弱形式无网格方法引入到连续体结构拓扑优化中,研究了以柔度最小化为目标函数的拓扑优化问题。基于SIMP插值模型建立了拓扑优化模型、灵敏度计算公式和求解方法。比较了无网格方法中涉及到的参数和拓扑优化涉及到的参数对优化结果的影响。结果表明,基于无网格方法对连续体结构进行拓扑优化设计具有可行性和有效性,同时本文的方法有效避免了网格依赖性问题和棋盘格现象。将无网格方法和渐进结构优化算法相结合,提出了基于无单元Galerkin方法和无网格有限体积Petrov-Galerkin方法的应力准则和位移准则下的渐进结构优化算法。基于无网格方法研究了连续体结构的动力拓扑优化问题,包括自由振动结构的特征值优化问题和受迫振动结构的谐响应拓扑优化问题。对于自由振动结构,选择结构基频的最大化作为目标函数,考察了节点数目和体积约束对拓扑优化结果的影响。对于谐响应拓扑优化问题,以结构的动柔度最小化作为目标函数,考察了不同激励圆频率对拓扑优化结果的影响。结果表明,利用无网格方法处理动力拓扑优化问题具有可行性和有效性。选择节点的相对密度作为设计变量,采用无网格形函数构造连续的相对密度场,有效消除了基于有限元方法中的网格依赖性现象和棋盘格现象。基于无网格方法研究了连续体结构的几何非线性拓扑优化问题,包括线弹性材料的几何非线性拓扑优化问题和超弹性材料的几何非线性拓扑优化问题。采用Total-Lagrange方法和Newton-Raphson迭代求解技术推导了无网格方法的几何非线性系统离散方程。以结构柔度最小化为目标函数,基于SIMP模型建立了几何非线性问题的拓扑优化模型,采用伴随灵敏度分析方法求解得到目标函数的敏度分析公式。通过算例说明了采用几何非线性理论进行拓扑优化的必要性。结果表明,利用无网格方法处理几何非线性拓扑优化问题具有可行性和有效性,所获得的优化结果没有网格依赖性现象和棋盘格现象。