【摘 要】
：
随机优化方法已经成为处理大规模正则化和深度学习优化问题的首选方法,其收敛速率的获得通常都建立在目标函数梯度无偏估计的基础上,但对机器学习问题来说,很多现象都导致了
【机 构】
：
中国人民解放军陆军炮兵防空兵学院信息工程系
【基金项目】
：
国家自然科学基金(61673394)
论文部分内容阅读
随机优化方法已经成为处理大规模正则化和深度学习优化问题的首选方法,其收敛速率的获得通常都建立在目标函数梯度无偏估计的基础上,但对机器学习问题来说,很多现象都导致了梯度有偏情况的出现.与梯度无偏情形不同的是,著名的Nesterov加速算法NAG(Nesterov accelerated gradient)会逐步累积每次迭代中的梯度偏差,从而导致不能获得最优的收敛速率甚至收敛性都无法保证.近期的研究结果表明,NAG方法也是求解非光滑问题投影次梯度关于个体收敛的加速算法,但次梯度有偏对其影响的研究未见报道.针对
其他文献
基因表达数据具有高维小样本特点,包含了大量与疾病无关的基因,对该类数据进行分析的首要步骤是特征选择.常见的特征选择方法需要有类标的数据,但样本类标获取往往比较困难.
数据集成在数据管理与分析领域起着重要的作用.尽管从学术界首次提出并开始研究数据集成问题已经过去30多年,但在各个领域仍然存在着大量与数据集成问题密切相关的问题亟待解
随着互联网技术和电子商务的发展,人们的消费观念和消费习惯发生很大的改变。大学生作为最有消费力与消费意欲的群体之一,对消费金融的需求日益俱增。借此契机,短短几年时间
目的了解2003-2012年江苏省胃癌发病死亡流行水平,分析2003-2005年江苏农村地区新发胃癌患者的生存情况。方法收集2003-2012年江苏省的肿瘤登记数据,按照年份、年龄分层,使用
轨道交通中往往存在着不同类型轨道的过渡,这种过渡会造成轨道刚度的突变,从而增大车轨振动响应,对于轨道运营是一大隐患。目前国内外对于轨道过渡的研究往往集中于地面轨道
常常有老人聊天时自豪地说：“我这半年又瘦了5斤，有钱难买老来瘦嘛!”其实这种看法对于老年人的健康状况是不利的。首先，老年人处在一个衰老的过程，体内蛋白质以分解代谢逐步占据
在休谟看来,工商业的发展可以提供足够的奢侈品,而足够的奢侈品通过人性的作用,可以激发勤勉和劳作,这样,就可以在满足个人欲望的同时,增加社会劳务的储藏,达到国富民强的目
分布式系统和电子商务的安全以公钥基础结构(PKI)为基 础 ，为实现信息的安全交换，用户可从PKI中得到另一用户的公钥及其证书。给出PKI中一种新 的估算各认证服务中心之间信任度
企业年金作为我国多支柱养老保障体系的第二支柱，尚处于起步阶段，发展不足。而在美国、加拿大等发达国家，巨额的企业年金已成为推动资本市场发展，提升企业竞争能力的动力之一。在