在过去的二十年,神经网络理论研究取得了很大的进展,在各领域的应用也取得了丰硕的成果。作为神经网络的经典模型,BP网络也得到了快速的发展,同时,也存在着收敛速度缓慢、难以用数字硬件实现等问题。随着研究的深入,人们对神经网络实时性、规模性的要求越来越高,解决这些问题也就显得更加迫切。 有关广义同余神经网络(GCNN)的初步研究表明,相对于普通BP网络,GCNN具有很快的收敛速度。但是,GCNN也存在着一些不足,主要包括:学习能力略差,激励函数模值不易设定,难以开发出合适的学习算法,缺乏严格的理论基础。 本文针对GCNN的上述问题进行了研究,包括提出新的网络结构、学习算法、进行相关理论分析以及实际应用分析。本文的研究成果主要有: 1) 提出了一种改进的广义同余激励函数。同时,对GCNN网络结构做了一些改进,解决了模值难以设定的问题。并证明了,单隐层的GCNN具有一致逼近能力。 2) 提出了两种新的学习算法:改进的GCNN BP学习算法及Large Margin学习算法。分析了改进GCNN BP算法的时间复杂度,并证明了其收敛性。实验结果表明,本文所提出的网络结构及学习算法是有效的,GCNN比普通BP网络及其部分变体具有更快的学习速度和较好的逼近、分类精度。 3) 分析了GCNN快速收敛的原因。理论分析及实验结果表明,GCNN实质上是通过在误差函数空间中增加误差函数的极值点数目而实现快速收敛的。 4) 将GCNN成功应用到垃圾邮件过滤中。实验结果表明,GCNN的过滤性能好于其它几种机器学习技术,也优于普通BP网络,且所需学习时间也少于BP网络。