在现代旋转机械的转子一轴承系统运行过程中，动力学特性是必须重点考虑的关键因素之一。如何快速设计出满足需求的转子系统，保证投入生产之后能够具有较高的安全性，并且具有良好的经济性等，是一项复杂却又重要的研究课题。本文针对考虑动力学特性的转子一轴承系统的结构优化设计问题，主要借助于遗传算法理论，采用理论仿真与试验验证相结合的手段，对满足设计需求最优化设计方法进行了研究。　　针对转子一轴承系统中考虑临界转速调整要求的结构最优化设计问题，建立了一个完善的最优化数学模型，定义了当前临界转速与目标临界转速之间的偏差量和优化前后结构的改变量，并且给出了在目标临界转速可达和不可达的情形下，最优的转子一轴承系统结构应该满足的条件。　　针对临界转速在小范围内调整的转子一轴承系统的结构优化问题，详细分析了已有文献中两种基于灵敏度分析的模型，在此基础上，以定义在迭代过程中相对初始设计状态的结构改变量为自变量，并修改优化目标函数的方式，对原模型进行了改进和完善。结果表明，改进后的模型简化了设计流程，消除了两已有模型的缺陷，在保证求解精度的同时缩短了搜索时间。　　在临界转速的个数不少于结构设计参数的个数时，借助于基本遗传算法研究了转子一系统的单目标结构优化设计问题，并与基于灵敏度的方法进行了对比，表明它可以更好地处理目标临界转速距离初始临界转速较远的情况，始终能够找到满足设计要求的全局最优解。　　同时考虑转子一轴承系统中临界转速调整要求和结构改变量两设计性能参数，引入了两种不同的优化设计方案，建立了多目标优化设计模型，并构造了一种基于Pareto排序和小生境技术的多目标遗传算法，求解该优化问题的Pareto边界。与单目标优化模型相比，该多目标优化设计模型可以求出个体分布比较均匀的Pareto边界，供设计者选择两性能参数同时较小的解，得到具有更佳综合性能的转子一轴承系统。　　针对转子一轴承系统的结构约束优化设计问题，利用罚函数方法构建了一种具有较强适应性的最优化模型，并提出了一种遗传一复合形混合优化算法用于高效求解。结果表明，该最优化模型能够搜索到精度高于基于梯度的方法的全局最优解，较好地满足设计需求。提出了一种综合运用单目标和多目标遗传算法思想的约束最优化算法——基于群体的精英进化算法(PEAES)。在每一代中利用当前最优个体作为参考点将整个种群分为三个子群体，分别利用单目标或多目标遗传算法进行遗传操作。通过对常用约束最优化函数集测试并与KM、RY和IS-PAES算法对比，表明PEAES具有比其它三种算法更佳的优化性能。将PEAES方法应用于求解转子一轴承系统的优化设计问题，得到了更好的优化结果。　　在Bently RK4转子一轴承系统试验台上进行了试验验证，利用理论模型数值计算和实验测得的不平衡响应数据建立了最优化问题形式的辨识模型，借助遗传算法求解，辨识出系统的未知轴承参数，然后利用辨识后的转子一轴承系统试验台进行了临界转速优化调整试验，证明了本文提出的优化方法的正确性。