论文部分内容阅读
智能优化算法(Intelligent optimization algorithms)通过模仿生物的智能行为来实现优化功能。例如,遗传算法(Genetic Algorithm, GA)模仿生物种群中自然选择的机制来求解优化问题;粒子群优化算法模仿鸟群觅食迁移中,个体与群体协调一致的机理来指导优化搜索等。智能优化方法具有简单通用、鲁棒性强和适于并行等优点,在模式识别、智能控制、并行搜索、联想记忆等方面得到了广泛的应用。支持向量机(Support Vector Machines, SVM)是一种应用广泛的数据分类技术,当高斯核支持向量机应用于各种各样的数据分类领域时,首先面临的至关紧要的问题是:怎样选择惩罚参数C和核参数γ(即怎样进行支持向量机模型选择),怎样优化输入特征子集以提高分类准确率和减小特征子集。通过用户使用枚举法进行参数选择,往往降低支持向量机分类性能,得出的分类准确率很低,不能满足分类要求。采用网格搜索算法进行支持向量机参数优化,由于一定程度地提高了分类准确率,初步满足分类要求。随着数据分类领域对分类准确率的要求不断提高,采用智能优化算法和支持向量机的结合同时优化输入特征子集和支持向量机参数,进一步提高了分类准确率。本论文在上述研究工作的基础上,将支持向量机的渐进性能融入智能优化算法,提出了基于特征染色体的遗传算法、基于特征粒子的粒子群优化算法、基于特征抗体的克隆选择算法,分别构建提出的算法和支持向量机的混合系统以同时优化输入特征子集和支持向量机参数,取得了更高的准确率、更小的特征子集和更少的处理时间。通过将支持向量机的渐进性能融入智能优化算法,构建智能优化算法和支持向量机的混合系统解决上述问题是本论文的基本研究方法。本论文以分类问题的智能优化算法及其应用研究、智能优化算法和支持向量机混合研究为课题,本论文的贡献和创新点概括如下:(1)基于特征染色体的遗传算法基于遗传算法的原理和搜索机制,将支持向量机的渐进性能融入遗传算法,通过生成特征染色体操作将遗传算法的搜索导向到超参数空间中的最佳泛化误差直线,提出一种基于特征染色体的遗传算法,构造基于特征染色体的遗传算法和支持向量机混合系统以同时进行特征选择和参数设置的优化。对提出的算法的收敛性进行了分析。与类似方法相比,提出的算法不仅具有更高的分类准确率和更小的特征子集,而且具有更少的处理时间。(2)基于特征粒子的粒子群优化算法基于粒子群优化算法的原理和搜索机制,通过生成特征粒子操作将支持向量机的渐进性能融入粒子群优化算法,提出一种基于特征粒子的粒子群优化算法,构造基于特征粒子的粒子群优化算法和支持向量机混合系统以同时进行特征选择和参数设置的优化。分析了提出算法的复杂度。实验指出,提出的算法具有更高的分类准确率、更小的特征子集和更少的处理时间。(3)基于特征抗体的克隆选择算法基于克隆选择算法的原理和搜索机制,通过生成特征抗体操作将支持向量机渐进性能引入克隆选择算法,提出一种基于特征抗体的克隆选择算法,构造基于特征抗体的克隆选择算法和支持向量机混合系统以同时进行特征选择和参数优化。通过算法性能对比实验,得出提出的算法具有更高的分类准确率和更小的特征子集。(4)混合智能优化算法研究提出一种基于特征染色体的遗传算法和量子遗传算法的混合算法,构造基于特征染色体的遗传算法、量子遗传算法和支持向量机混合系统,给出了详细的实验结果和算法性能对比,验证了该算法是一种有效的方法。除此之外,还提出一种基于特征抗体的克隆选择算法和差分进化算法的混合算法,构造基于特征抗体的克隆选择算法、差分进化算法和支持向量机混合系统,给出了详细的实验结果和算法性能对比,实验指出提出的算法是一种有用的方法。(5)智能优化算法应用研究根据微阵列基因表达数据的特点,提出一种基于特征染色体的遗传算法包装法、信噪比过滤法和支持向量机混合系统的信息基因搜索方法,以同时搜索到基因数量少而分类准确率高的信息基因子集,实验结果表明,与其它优秀的肿瘤分类方法相比,提出的方法在信息基因数量及分类准确率方面具有明显的优越性。另外,提出一种基于特征染色体的遗传算法、共空间模式和支持向量机混合系统以进行脑-机接口分类参数优化,取得了提高分类准确率的明显效果。