【摘 要】
：
贝叶斯推理不仅是统计学中的一个重要问题,也是机器学习领域中常见的问题。在实际应用中往往很难通过简单的贝叶斯理论求得问题的精确解,因此需要使用近似推断技术。变分推断与MCMC是两种基于贝叶斯定理的近似推断方法。一般来说,变分推断收敛速度较快,更容易应用到大数据集当中;MCMC通过迭代保证了采样的精确性。本文的工作是将变分推断与MCMC高效结合起来,对变分对比散度进行改进,提出了自适应的变分对比散度算
论文部分内容阅读
贝叶斯推理不仅是统计学中的一个重要问题,也是机器学习领域中常见的问题。在实际应用中往往很难通过简单的贝叶斯理论求得问题的精确解,因此需要使用近似推断技术。变分推断与MCMC是两种基于贝叶斯定理的近似推断方法。一般来说,变分推断收敛速度较快,更容易应用到大数据集当中;MCMC通过迭代保证了采样的精确性。本文的工作是将变分推断与MCMC高效结合起来,对变分对比散度进行改进,提出了自适应的变分对比散度算法:首先本文在变分对比散度中添加了自适应系数α（t）,该系数会根据MCMC的迭代步数来自适应调整目标函数值,避免陷入当改进分布的迭代效果不理想时散度始终为0的困境。随后,本文在模型上添加了正则项用以解决变分分布方差过大的问题。此外,本文详细推导了算法的目标函数的梯度,且以高斯分布与混合高斯分布为例,给出了实验模型所需的具体梯度形式。最后,本文进行尝试性实验与隐变量模型实验,来验证本文算法的有效性。在尝试性实验中,本文提出的改进算法能够显著降低变分分布的方差;而在隐变量模型实验当中,本文使用证据下界,对数似然函数值以及边际对数似然函数值作为三个衡量指标,将自适应变分对比散度算法与其它经典算法进行比较,同时在MNIST数据集与FashionMNIST数据集上进行图片重建实验,结果说明本文算法得到的变分分布能够良好地逼近后验分布。
其他文献
近年来随着互联网的时代到来,数据量级呈现了爆炸式的增长,大数据的时代随之到来。由于传统框架无法很好的处理海量数据的计算,新型的计算框架应运而生,这些框架的出现为数据的并行计算提供了极大的帮助,为数据科学的各个领域奠定了基础,加快了各领域的发展。然而随着数据量的不断增大,异常数据,恶意攻击也越来越多。异常数据在很多情况下可以对系统造成极大的危害,所以异常的检测也显得越来越重要,异常检测的相关方法也同
《工业品外观设计国际注册海牙协定》（简称《海牙协定》）是由WIPO管辖的简单、高效并经济地使外观设计申请人获取外观设计保护的多国合作协定,通过《海牙协定》形成的国际外观设计保护体系被称为海牙体系。在当今外观设计国际保护领域,《海牙协定》作为目前国际层面唯一能够实现一对多,一站式服务的外观设计申请途径,被越来越多的国家接受。但截至目前为止,我国尚未成为《海牙协定》的成员国。本文首先从《工业品外观设计
背景:进展期原发性肝癌患者常出现门静脉侵犯。对于肝癌伴门静脉癌栓形成,目前主要以非手术治疗为主,包括介入治疗、放疗、射频消融、全身治疗等。经肝动脉化疗栓塞（TACE）联合放疗是近年来所采用的比较常用的治疗方式,但是其临床疗效需进一步研究证实。材料与方法:本研究选取2015年6月至2019年6月就诊于厦门大学附属中山医院收治的符合标准的78例原发性肝癌伴门静脉癌栓的患者,根据不同治疗方式,分为单纯T
随着科技与制造业的不断进步,现代工业设备正朝着大型化、自动化和信息化方向发展,其结构越发复杂,系统零部件众多,加上工作环境恶劣,其发生故障的频率也显著增高。离心风机作为重要的旋转机械,广泛应用于建筑、化工、能源等行业,其结构复杂、故障类型多、维修周期长,实现离心风机的智能故障诊断与趋势预测具有重要意义。随着传感器与大数据技术的发展,机械设备运行过程中包含大量的监测数据,通过挖掘多源传感器数据的故障
GPS惯性组合导航（INS/GPS）融合了INS和GPS导航技术,将两种导航技术优势互补,在民用和军用领域获得了广泛应用。然而,当GPS信号间歇性失效环境下,该技术存在导航精度迅速下降的问题。为此,本文提出将地磁传感技术融入INS/GPS组合导航系统的地磁辅助导航方法（geomagnetic integrated navigation,GID）,有效地提高了系统导航精度,通过标定测量、多重滤波算法
农产品市场的平稳运行不仅影响着国家经济发展,也是人民安居乐业的保障之一。对农产品价格趋势的预判往往会左右农业工作者的生产规划和消费者的消费习惯,然而,目前市场上尚缺乏较成熟的农产品价格趋势预测的平台,广大农业工作者和消费者无法及时、方便地获取农产品价格的未来趋势预测信息。本文针对这一痛点,利用深度学习技术,开发一个应用于农产品领域的价格预测系统,既符合“互联网+农业”的经济发展新模式,也助力国家大
随着社会经济的发展和科学技术的进步,智能制造时代悄然到来。先进制造技术与新一代信息技术的融合促使我国制造业企业的组织形态和生产方式发生变革,从而对人力需求提出了更高的要求。因此,制造业企业为适应智能制造发展对人才的需要,其培训体系的改革势在必行。论文首先通过文献研究,分析了智能制造对制造业企业培训体系的影响,进而得到智能制造与制造业企业培训体系的关系分析框架。其次,通过理论研究,运用德尔菲法对智能
本文的研究以蜡染蝴蝶纹为研究对象,地区范围锁定在丹寨苗族地区。除了搜集与丹寨蜡染相关的文献外,还通过对丹寨扬武镇地区进行实地考察、拍摄以及对当地非物质文化遗产传承人进行采访收集相关实物资料,结合在黔东南州博物馆等美术馆所藏相关的蜡染实物完成丹寨蜡染蝴蝶纹资料建库。研究以田野调研为基础,运用设计艺术学的研究方法,并结合民族学、社会学、民俗学、宗教学等学科的研究方式,对丹寨苗族蜡染蝴蝶纹展开深入研究。
纺织、食品和染料工业中大量排放的染料废水严重损害水生生态系统和人类健康。迄今为止,各种染料降解技术研究备受关注,其中,光催化降解作为一种高效、清洁的方法已成为最具潜力的染料降解技术之一。近年来CeO2半导体因其独特的氧化还原性能已成为研究的热点。大量研究报道认为含氧半导体的氧空位在光催化反应中发挥着至关重要的作用,但影响CeO2光催化染料降解活性的主要因素仍有待确定。针对此现状,本文通过不同水热合
随着我国法制体系的不断完善,我国的法学研究逐渐由“立法中心”向“司法中心”转向,法律解释学作为最贴近司法实践的学科得到了蓬勃发展。然而,尽管法律解释的理论研究成果汗牛充栋,却始终难以在司法实践中发挥作用。以刑事法领域为例,从近年来出现的深圳鹦鹉案、赵春华非法持枪案、王力军无证收购玉米案、陆勇代购假药案等案件中,皆可以看到刑法体系解释方法的失语,无不是由于裁判者欠缺体系性的价值考量,孤立、片面地理解