纤维增强复合材料(Fiber Reinforced Composites,FRC)中纤维材料的角度和体积含量的多少对结构性能有着重要影响。对纤维增强复合材料的纤维角度和纤维体积比进行数学建模,优化纤维材料的角度和含量可以使结构的性能得到很大程度的提升。此外结合拓扑优化技术同时进行纤维增强复合材料的内在纤维角度和整体拓扑的优化能让结构质量更轻、制造使用材料更少、力学性能也更优。本文首先以纤维增强复合材料整体柔顺度为目标函数,单元纤维角度和单元纤维体积比为设计变量,建立数学模型进行了纤维布局优化。然后进行了灵敏度分析,给出了优化的步骤,提出以灵敏度过滤的方法使优化结果中单元纤维角度连续的方法。给出一些数值算例说明了不同纤维体积比下优化设计的可行性和有效性。其次,考虑到由于在设计变量增多时优化迭代速度变慢的情况,对纤维角度的进行层级优化设计。通过设计域内设计变量数目的逐层增加对纤维角度进行由粗到细的优化设计,然后推导了目标函数的灵敏度分析,给出了层级间插值的方法和优化流程,通过数值算例对比验证说明了层级优化方法能提高优化效率的同时也能保证优化结果的有效。然后,为让纤维增强复合材料的结构得到更强程度的优化,结合宏观拓扑优化微观纤维角度优化的想法,进行纤维角度和拓扑的组合优化设计。同样考虑到由于设计变量的增多导致优化速度变慢,组合优化采用层级优化的方法进行,在文中给出了灵敏度的计算公式,展示了优化的流程,经过几个数值算例说明优化在效果上的可行。最后对全文做了总结,并对以后的工作了展望。