论文部分内容阅读
深度学习是一种特征学习方法,主要是通过一些简单的非线性的模型,将原始数据转变成为更高层次、更加抽象的内容。深度学习方法在许多领域都得到了广泛应用,如图像识别、语音识别、对象检测等。深度信念网络(Deep belief networks,DBN)模型是一种深度学习方法,它通过多次映射能够发现大数据中的复杂结构及其概率分布。数据挖掘过程中,特征工程是一个极其重要的环节,直接影响到模拟的效果。传统的特征工程需要靠业务经验、多次尝试才能找到合适的特征。在经典的概率统计中,有主成分分析、因子分析等线性特征提取方法;也有支持向量机、Logistic回归等非线性特征提取方法。但传统方法只能提取数据中最直观和最浅显的特征。深度信念网络通过无监督学习可以从数据中提取非线性和线性特征,通过监督学习实现特征筛选。同时DBN模型采用随机梯度下降算法实现在线计算和实时计算,解决了以前数据需要全部装载到内存的难题。本文主要对深度学习中DBN模型的拓扑结构和训练算法进行改进,同时通过DBN模型在汇率预测方面的应用验证了本文研究的算法的有效性。本文主要研究内容有:首先,回顾了深度学习的发展历程,介绍了浅层学习和深层学习的基本概念,总结了国内外的研究进展。其次,研究了深度信念网络的拓扑结构和主要理论,证明了经典线性相关性分析也是浅层学习的一种。然后,研究了深度信念网络的学习过程,提出了一种新的基于概率分布的学习算法。最后,利用多元方差分析方法确定DBN的拓扑结构,预测了人民币和印度卢对美元的汇率,验证了改进后的DBN模型在准确性和鲁棒性上都得到了显著的提高。