论文部分内容阅读
数据挖掘和机器学习在现代科学发展中所起到的重要支撑作用已日益凸显,并且越发紧密地渗透到各学科的发展过程中,广泛地影响到人们生活的各个方面。数据挖掘和机器学习算法所处理的都是复杂类型的数据,同时这些数据之间彼此存在着关联和影响。这些复杂数据提供了丰富的信息,同时也给算法提出了挑战。如何挖掘这些复杂类型数据之间的隐含关系已经成为了数据挖掘中的很重要的一部分。模糊认知图（Fuzzy Cognitive Maps,FCMs）是一种智能的软计算方法,通过模糊逻辑理论和神经网络结合进行计算,通过图的形式来表现概念之间的逻辑关系。现在模糊认知图在学术中的应用比较广泛,比如说:复杂系统、决策分析、网络结构推断等。一般来说,使用数据驱动的方式来训练模糊认知图的权值矩阵,这样能够快速得到模糊认知图中概念之间的因果关系,而不需要专家知识的辅助,从而能更快地解决实际工程问题。本论文对模糊认知图智能学习问题从大规模优化方面、稀疏学习方面进行了深入地研究。其中针对大规模模糊认知图的学习问题,目前基于进化计算的方法只能学习小规模的模糊认知图的问题（小于40个节点）,提出了进化计算和神经网络结合的优化算法、分布式计算框架、基于动态优化策略等计算方式,加快了算法的效率,使得基于进化计算的优化算法可以学习大规模的模糊认知图。另一方面,针对目前模糊认知图智能学习算法学习得到的认知图的网络密度过大,和实际的网络密度不匹配的问题,我们提出了基于多目标进化计算、基于正则化方法的智能计算方法,使得学习出的模糊认知图的网络密度逼近真实的网络密度。除此以外,我们将提出的学习方法应用到了基因调控网络（Genetic Regulatory Networks,GRNs）的重建中,还将模糊认知图和深度神经网络（Deep Neural Networks,DNNs）进行了比较,主要工作总结如下:1.提出了基于神经网络和进化计算的模糊认知图混合学习算法,而且把这个理念运用到基因调控网络中。其中进化计算用来优化网络结构,神经网络用来计算网络中节点之间关系权重的大小。同时将局部搜索算子引入了算法,提高了算法的收敛效率。本算法验证了20到100个节点的模糊认知图人工数据以及基因标准数据DREAM3和DREAM4,而且对这些数据进行分析研究,最终得出结果,此算法针对重建基因调控网络问题是有效的。2.提出了基于动态多智能体进化的模糊认知图智能学习算法,并应用在基因调控网络重建问题上。算法中,智能体的行为根据网络重建问题的内在特性而设计,所有的智能体都生活在网格的环境中,并且每个智能体的邻居可以根据自身的能量而动态地改变。实验中用5到200个节点的模糊认知图人工数据以及基因标准数据集DREAM3和DREAM4验证了所提算法的性能,根据实验结果和RCGA、D&C RCGA、ACO、BB-BC、DE算法进行分析研究,最终得出结果,本算法在学习达到200个节点（需要优化40000个权值变量）的大规模网络的时候有很好的效果。3.提出了基于分布式的动态多智能体进化算法的模糊认知图智能学习算法,而且把这个计算框架应用到了基因调控网络中。此算法将原来的整个网络划分为几个独立的子网络,然后将这几个子网络同时优化,这样就解决了之前的计算方式中维数灾难的问题,因此计算速度也更快,这种计算框架可以应用于大规模的学习问题。这个算法验证了5到500个节点的模糊认知图人工数据以及基因标准数据集DREAM4,并且在网络评价指标方面和ACORD、RCGA、DE、dMAGA进行分析研究,最终得出结果,实验结果验证了此算法在学习大规模网络（500个节点）的有效性。4.针对目前基于进化计算的智能学习算法得到的模糊认知图的网络密度过大问题,提出了基于多目标进化的模糊认知图智能学习算法。本算法将模糊认知图学习问题建模成多目标优化问题,然后利用多目标进化算法去解决这个优化问题,最后得到包含不同密度模糊认知图的Pareto前沿。决策者可以根据自身的需求,选择不同网络结构的模型。在实验中,本算法的性能同时在模糊认知图人工数据和真实数据集上得到了验证,并且在网络评价指标方面与SRCGA、RCGA、NHL、DD-NHL进行了对比和分析,结果表明,本算法可以有效地学习出具有稀疏网络结构的模糊认知图。5.提出了基于集成学习和多目标进化的模糊认知图智能学习算法。首先,利用多目标进化算法从时间序列中学习得到Pareto前沿,其中包含了具有不同结构、不同信息的模型。然后在Pareto前沿中选择模拟误差较小的网络,并且提出了有效的集成策略将这些选择的网络融合为一个网络。同时,在多目标进化算法中设计了一个新的目标函数,使得Pareto前沿中的网络在结构上具有较大差异性,从而为之后集成学习策略的性能提供了保证。本实验包括了模糊认知图人工数据和基因标准数据集DREAM4,验证了所提算法的性能。6.提出了一种基于L1/2正则化方法的模糊认知图智能学习算法,可以学习出具有稀疏结构的大规模模糊认知图。基于模糊认知图智能学习问题的特点,本算法对迭代半阈值算法（Iterative Half Thresholding Algortihm,IHTA）算法精进行了扩展,解决了非线性L1/2正则化问题。在模糊认知图人工数据和真实数据上的实验结果表明,所提算法具有较低的计算成本,能够有效地学习大规模模糊认知图。并且在拟合误差、模型误差和SS Mean方面优于目前的模糊认知图智能学习算法,如SRCGA,RCGA,NHL和DD-NHL等。7.在工程应用方面,本文将上述提出的多种模糊认知图智能学习算法应用在解决重建基因调控网络问题上。所谓的基因调控网络重建就是指基因之间相互反应,产生了比较复杂的关系。本文利用模糊认知图模型对动态调控系统进行建模,使用模型分析基因之间的相互作用,网络中的边表示基因之间的相互作用关系,节点的状态值表示基因的浓度。这些算法在基因标准数据集DREAM3和DREAM4上进行了验证。结果表明,这些算法可以很好地实现对基因调控网络的重建。8.分析讨论了模糊认知图和深度神经网络在结构、形式化描述、推理机制等方面的相似性和差异性。指出了基于模糊认知图的因果知识表示是通过概念节点及概念节点间的关系直观地表现出来,系统的动态行为是通过整个网络各概念节点的相互作用来模拟,推理是通过前向概念节点对后向概念节点状态的递推作用来实现。同时,本文还指出模糊认知图是一种具有限定条件的DNNs。