统计稀疏学习中的贝叶斯非参数建模方法及应用研究

来源 :浙江大学 | 被引量 : 0次 | 上传用户:guoqiang113
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
统计稀疏学习方法是人工智能、应用统计学以及视觉认知等学科交叉的研究方向,也是当前机器学习领域的最新研究热点之一。基于贝叶斯学习理论的统计稀疏学习方法将先验知识与样本信息相结合、依赖关系与概率表示相结合,是不确定知识表示的理想模型。与其他方法相比,贝叶斯非参数方法通过随机过程表示所有形式的不确定性,可以在模型中包含先验知识,降低对参数的假设约束,隐含地避免过拟合;通过贝叶斯定理实现学习和推理过程,提供基于模型解释的特征信息,为模型选择提供了自适应的方法。因此,基于贝叶斯非参数的统计稀疏学习建模具有重要理论价值。同时,结合统计稀疏学习在视觉认知上的天然表示,研究面向典型视觉应用的贝叶斯非参数统计稀疏学习方法,有助于发现方法的独特性能和技术优势,也为验证方法的有效性提供很好的验证平台和应用示例。本文以贝叶斯非参数统计稀疏学习方法作为研究对象,在贝叶斯统计学习框架下对非参数稀疏建模及其关键技术进行了深入研究,并通过视觉任务对其进行验证。其主要研究内容和成果如下:1、通过对统计稀疏学习理论中主要问题的分析,在研究贝叶斯非参数方法的模型构建、学习方法和推理机制的基础上,对贝叶斯非参数方法对“稀疏”的表达能力、构建方法和推理机制进行了探索性研究。2、通过扩展稀疏向量的函数形式,针对稀疏度根据观测数据自适应调整的需要,本文提出利用一种利用离散混合先验贝塔过程进行稀疏表示的方法。方法能够根据观测数据在己知测量矩阵上的稀疏投影频率调整稀疏向量的稀疏度,并且模型中以高斯分布表示的拉普拉斯先验逼近lo范数的方法,能够进一步提高稀疏表示的能力和计算速度。为验证方法的效果,分别在单位脉冲数据集和USPS手写数字集上进行了实验。实验结果表明该方法能够获得比传统稀疏表示方法获得更稀疏的解和更高逼近精度。3、针对字典学习建模中存在的字典维度不能根据观测数据自适应调整的问题,以图像降噪为应用对象,建立了一种基于高斯过程聚类的贝叶斯非参数字典学习方法。基于高斯过程聚类的建模方法更适合图像数据的特点,能够使字典和稀疏表示模型在图像数据集上具有很好的推广性。在模型中,由样本集自适应生成的列约束高斯字典作为对包含聚类特征的稀疏向量的稀疏表示测量矩阵,使字典学习的解具有一定的基于模型解释的可靠性,获得的字典和稀疏表示具有优化的解。实验结果表明该方法在模型精度、稀疏度和字典维度的自适应性上有优势。并且在图像降噪过程中,通过设定可调整参数可以控制降噪过程以获得更可靠的优化预测解。4、在分析贝叶斯非参数方法实现聚类的基础上,针对视频图像数据和高维稀疏数据的聚类进行研究。对于适应视频图像数据的聚类,提出基于混合狄利克雷过程的背景剪除方法,并通过实验证实了方法的可行性和有效性。继而,针对高维稀疏数据的特征,提出基于Polya树的聚类方法。该方法对于待聚类的数据先通过特征提取,得到数据在高维属性下的稀疏表示,再对这些高维稀疏数据以Polya树建模,得到能够适应数据增加树的深度、改变聚类数的一种聚类方法,并通过对CIFAR图像数据集的聚类实验证实了方法的有效性。
其他文献
非线性系统的输出调节问题是控制理论及应用中的重要问题之一,涵盖了系统的镇定、跟踪给定的参考信号和抑制干扰等特殊的控制问题。输出调节的目标是寻找反馈控制器使所得到的
淀粉连续液化喷射器为味精、酒精、柠檬酸、葡萄糖、饴糖、麦芽糊精等工厂的关键设备,体积小,效率高。该设备应用于双酶法淀粉制糖,液化均匀,糖化液葡萄糖值高达97%,纯度高,过滤速度快
优化问题是从众多备选方案中选择最优的方案以达到时间、工程量、经济等方面的最优化。传统的优化问题主要是基于数值计算的方法来求解各种复杂工程优化应用问题,但基于数值
南非一些主要的金矿已计划大幅扩产 ,一些公司甚至将增加在其他地区的矿产量。这种有组织的行动将缓解南非过去 2 0多年来黄金产量持续下降的局面。世界最大的金矿———安格
期刊
[摘 要] 环境经济政策被认为是解决环境问题的长效机制,目前,我国已开始重视使用环境经济政策来解决环境问题,但由于种种原因,我国环境经济政策还存在诸多不完善之处,我国应积极采取措施进一步完善环境经济政策,提高环境保护的效果。  [关键词] 环境经济政策 环境保护 绩效    一、环境经济政策的理论及实践   环境经济政策是指按照市场经济规律的要求,运用价格、税收、财政、信贷、收费、保险等经济手段,
南国初夏,草长莺飞,美丽的广东省惠州潼湖湿地,环境宜人。4月25日,来自中国城市和小城镇改革发展中心、中国人民大学经济学院、上海交通大学城市科学发展研究院、中国房地产行业
报纸
[摘 要] 经济全球化成为当前世界经济发展中出现的引人注目的大趋势,世界各国经济整体的发展都愈益受到这一趋势的影响。作为经济全球化的后来者——发展中国家,如何在贸易全球化中选择适合本国发展的对外贸易战略,促进本国发展,从而提高本国的福利水平。本文旨在用博弈论的方法对此做初步探討。  [关键词] 自由贸易 保护贸易 有限理性
[摘要] 叙述了我国会计准则和税收法规相关理论,以我国现行的会计准则和税收法规为依据,系统地分析了我国会计准则和税收法规的差异及其成因,提出了解决矛盾的基本原则和对策建议。  [关键词] 会计准则 税收法规 差异 协调    随着国际化的日益加强,我国新颁布的会计准则和税收法规也在不断地深化,两者之间的差异及其影响呈现日益扩大的趋势,为了使会计准则与税收法规更好的协调,本文展开了研究,研究两者差异
高中语文第四册第三、第四两个单元是中外戏剧的鉴赏单元。汇聚了古今中外的戏剧名篇。新教材中。相对于诗歌、散文和小说的单元而言,虽所占份额不大,但如此集中而大规模的进行
[摘要] 人才资源已经是现代经济发展的首要资源。谁拥有高素质的人才资源,谁充分发挥了人才资源的作用,谁就能把握经济发展的主动权,从而在激烈竞争中占据优势。现在超市企业人才外流、高素质人才招聘困难。本文通过实地实习考察,针对民营企业超市人员流动过快的问题进行分析研究,并提出了相应的几点建议以供参考。  [关键词] 人才 流失 薪酬    人才泛指才能较高、以创造性的劳动成果对社会发展和人类进步做出一