在当今社会,随着软件技术的应用与发展,计算机软件与人们的日常办公、学习和生活密不可分。在这些软件系统中,有一类叫做遗留系统（Leagcy System）。遗留系统开发投入使用较早,内部结构复杂,由于技术人员变动频繁,系统文档不完善,给系统的使用和维护造成很大的困扰。不论在面向对象系统还是面向过程系统中,几乎所有的软件系统都是以模块化的形式设计开发的,尽管如此,多年的维护和进化使得软件产品趋向大型化和复杂化,系统结构偏离原来的设计,例如一些组件的没有放置在合适的模块中,长此以往,逐渐恶化的系统结构会导致花费更多的时间人力和财力用于软件维护中。仅依靠专家经验无法应对复杂的软件模块化方案设计问题,因此,怎样运用智能优化算法自动生成大型复杂软件系统的高质量模块划分备选方案,提高软件系统在合理成本下的可维护性,成为至关重要的研究方向。软件模块化的目的是得到模块化较好的聚类目标,模块化优化问题主要包括设计模块化质量的量化指标和更强寻优能力的算法。在软件结构度量标准的选取上,目前研究中使用高内聚低耦合标准,使用这一标准容易造成过度内聚问题,如果系统错误发生在模块内,而这个模块复杂度很高,对系统维护造成很大的困扰,因此本研究在选用内聚耦合的度量标准时,考虑模块复杂度平衡,并将其应用到软件模块化优化中。本研究主要研究内容包括以下几个方面:（1）首先分析当前使用的高内聚低耦合标准的存在的不足,在选取度量标准时考虑模块复杂度平衡,避免过度内聚问题。在上述工作的基础上本研究构建了考虑复杂度平衡的最小化最大模块的内聚性和最小化系统的耦合性为目标的软件模块化多目标优化模型。（2）针对本研究建立的多目标优化模型的数学特性,设计了 HNSGA-Ⅱ算法来对多目标优化模型进行求解,由于本问题使用传统NSGA-Ⅱ算法随机生成的初始种群质量较差,因此提出了基于最大边收缩的启发式算法用于提高初始种群的质量。两组对比实验证明了 HNSGA-Ⅱ算法比传统的NSGA-Ⅱ算法和多目标粒子群算法求解性能好。