【摘 要】
：
随着大数据研究的不断深入,张量在其中的作用越发突出,大多数深度学习框架中都以张量作为其基本数据结构.但由于张量维度往往较高,数据内存占用问题也异常严重,因此引入数据压缩方法变得十分重要.本文选择将张量分解作为数据压缩的主要手段,一方面是因为本文中所用的高维数据具有稀疏结构,张量分解尤其擅长压缩此类数据,另一个原因则是张量分解算法相对于其他数据压缩方式较为高效.在第四章和第五章中,又分别针对数据具体
论文部分内容阅读
随着大数据研究的不断深入,张量在其中的作用越发突出,大多数深度学习框架中都以张量作为其基本数据结构.但由于张量维度往往较高,数据内存占用问题也异常严重,因此引入数据压缩方法变得十分重要.本文选择将张量分解作为数据压缩的主要手段,一方面是因为本文中所用的高维数据具有稀疏结构,张量分解尤其擅长压缩此类数据,另一个原因则是张量分解算法相对于其他数据压缩方式较为高效.在第四章和第五章中,又分别针对数据具体形式选择了Quantic Tensor Train（QTT）分解和Tensor Train（TT）分解,结果显示这样压缩数据不仅可以降低内存消耗,提高计算效率,还可以在一定程度上优化模型准确率.文章主要做了以下三个部分工作:1.通过理论分析,证明了量子化张量列分解对时间序列数据具有核张量不变性,即在建模过程中,系数张量所预测的数据可以通过短时期内的时间序列核张量恢复,这也是进行视频预测的基本保证;2.将量子化张量列分解与传统时间序列模型结合.首先分解视频数据以降低数据维度,并充分分析了分解后数据所代表的意义,将数据分成了QTT系数张量和QTT核张量,以系数张量作为模型预测的数据集,不仅进一步减少了数据量,更能有效实现并行计算,从空间和时间两个方面都做了实质性改进;3.在综合比较现阶段神经网络预测高维时间序列的模型后,将高维时间序列分成了空间和时间两个状态,并使用注意力机制,从其中选取有效信息进行序列预测.在网络模型中嵌入张量列分解压缩数据,增加了模型学习能力和内存利用率.
其他文献
我国是一个地震高发国家,而路基又是公路最普遍、最基本的结构,一旦遭受震害,其破坏是普遍性的,造成的生命财产损失也是巨大的。随着现代技术的进步,路基填料逐渐向轻质材料方向发展,泡沫轻质土有质量轻、流动性好、凝结时间短、能垂直浇筑节约空间等优点,在公路工程方面应用日益广泛。本文旨在通过泡沫轻质土路基振动台试验和动力有限元数值模拟,探究泡沫轻质土路基在地震动作用下的加速度、位移和应力响应,揭示泡沫轻质土
随着人类活动空间的扩展和国家西部建设的加速发展,寒区重大基础建设项目逐渐增多。随着寒区工程建设步伐的加快,有必要深入研究冻土的力学特性以确保冻土地区结构物的稳定性。冻土损伤本构理论的研究是岩土工程领域一个重要的课题,本文采用室内试验的技术手段,以冻结含砾砂土为研究对象,在不同温度与围压条件下开展低温常规三轴试验,研究冻结含砾砂土的应力应变特性、体变特性和强度特性,建立冻结含砾砂土的损伤统计本构模型
在磁共振射频前端中,发射/接收（Transmit-Receive,T/R）开关用于切换射频发射和射频接收通路。磁共振系统中,发射通路的T/R开关一般位于射频功放与发射线圈之间;接收通路的T/R开关则位于接收线圈与前置放大器之间。在发射期间,接收通路上的T/R开关需要隔离大功率射频信号,避免前置放大器损坏;接收期间,T/R开关则需具有足够低的插入损耗,避免对探头采集的磁共振信号造成衰减。常规的磁共振
近年来,我国乡村旅游产业发展迅速,集生态、康体、休闲等功能于一体的绿道旅游形式也为乡村旅游业带来了新的机遇。乡村绿道因其所处的乡村环境,在具体规划内容上与生产性景观产生了高度的重叠与契合。在成都,将生产性景观结合绿道,加上连续性的特征,形成一种新的城乡景观发展策略,并取得了极高的社会、经济、环境和发展效益。目前,设计师已逐渐意识到乡村绿道对生产性景观的积极影响,也相继进行了一些乡村绿道与生产性景观
R-μ基本规律是世界地震工程界普遍认可的规律,国外抗震设计均按此规律进行抗震结构设计,然而,我国抗震规范未遵循R-μ基本规律。我国抗震规范采用相同的R值,但抗震措施从9度区到7度区逐级下降,现行规范对8度0.20g区框架结构所采取的抗震措施是否有效,目前所作的研究工作不多,因此对该烈度区框架结构抗震措施的有效性进行评价是非常有必要的。抗震措施包括内力调整和抗震构造措施。内力调整的目的是使结构在地震
伴随着大数据的积累和算力的不断发展,深度学习从理论的平原向高坡迈进,并对计算机视觉领域产生了深远影响。作为计算机视觉的基本课题之一,目标检测在引入深度学习后已经大幅度超过传统机器学习方法的速度和准确度。但是在应用到实际场景时,目前最先进的目标检测方法对于小目标的检测能力仍然较差。考虑到自动驾驶,无人机巡航,机器人巡航等实际涉及安全的场景下,及时准确的检测小目标是确保安全的关键,小目标检测已然成为目
深度神经网络在自然语言处理领域落地应用,已经取得许多重要研究成果,文本分类模型作为自然语言处理模型的分支,在垃圾邮件检测、情感分析和新闻分类等任务中发挥着重要作用。作为文本分类领域的主流模型,循环神经网络适用于序列数据,综合考虑上下文信息对文本进行分类;文本图卷积网络将单词与语句的关联度抽象为拓扑图,具有较高的文本分类准确率。最新研究表明,对抗攻击会使文本分类模型失效,且攻击成功率较高。这已成为文
在历史岁月的长河中,中国在这片广袤的大地上留下了很多弥足珍贵的历史文化古镇。历史文化古镇不仅承载着从古至今的岁月印记,也传承着富有民族风情的景观意象空间。伴随着全球化经济的不断进步,各国旅游业开始蓬勃发展,中国更是注重旅游业的发展,在公众的人文意识的不断提高的同时,人们的目光也开始转向古建筑、古镇、古村落等具有历史文化脉络的景点,从而促进了历史文化古镇的开发和优化保护。目前对于古镇的研究仅在建筑空
随着社会快速发展和医疗卫生条件的改善,人口老龄化程度加剧,导致中枢神经系统（Central Nervous System,CNS）疾病的发病率居高不下[1],CNS疾病主要包括脑膜炎、中风、阿尔兹海默症等疾病。CNS疾病发病率高、治疗效果差的主要原因是因为血脑屏障（Blood-Brain Barrier,BBB）的存在,由于BBB的结构紧密,超过500 Da的药物便无法进入脑实质[2]。BBB的存
装配式连接具有,施工速度快,工程质量高等优点,但节点承载力低,耗能能力差,延性不足,整体刚度小等问题制约其应用和推广。针对此,本文在现有国内外装配式节点研究成果的基础上,展开了以下研究:（1）以预应力直接装配式为基础进行优化,设计了新型梁柱预应力混合连接形式,上下柱采用套筒灌浆连接形式。对节点进行受力分析,推导出节点薄弱点验算公式,根据公式验算节点承载力。（2）对预应力混合装配式混凝土框架节点、现