【摘 要】
:
日益复杂的深度神经网络模型使得其在嵌入式硬件和可穿戴设备等的部署过程中遇到“冯·诺依曼瓶颈”、“功耗墙”等诸多问题,严重限制了DNN处理器能效的提升。为了解决硬件资源受限与DNN高资源需求之间的矛盾,迫切需要一种新的计算方式来克服传统二进制计算的限制。随机计算电路具有更小面积、更低功耗、更短关键路径、更强容错能力以及更强位级并行能力的优势,因而在各种具有超低功耗和高容错需求的DNN的架构中展现出极
论文部分内容阅读
日益复杂的深度神经网络模型使得其在嵌入式硬件和可穿戴设备等的部署过程中遇到“冯·诺依曼瓶颈”、“功耗墙”等诸多问题,严重限制了DNN处理器能效的提升。为了解决硬件资源受限与DNN高资源需求之间的矛盾,迫切需要一种新的计算方式来克服传统二进制计算的限制。随机计算电路具有更小面积、更低功耗、更短关键路径、更强容错能力以及更强位级并行能力的优势,因而在各种具有超低功耗和高容错需求的DNN的架构中展现出极高的应用潜力。然而与传统设计相比,由于处理随机比特流时固有的概率性和冗余性,基于SC实现的DNN加速器存在精度低、延迟大的问题,并且高的计算延迟往往会使得电路能耗高于传统设计。考虑到内积计算是神经网络模型中的核心计算,本文重点研究了针对内积计算单元的优化技术,试图获得计算精度、计算延迟和硬件性能的综合提升。本文从三个方面对神经网络的内积单元进行了设计与优化:首先选择了合适的随机编码方式与电路,采用Sobol序列作为随机数源,采用了双线SM方式实现有符号数据的随机编码;其次设计了能效更高的双线SM编码的随机缩放加法器TLSSA;随后,改进了多输入加法器阵列Ax PC,并结合TLSSA实现了25输入的内积单元设计。另外,本文还设计了简单的DCNN架构来测试内积单元的可行性。实验表明,在比特流长度一致的情况下,本文设计的TLSSA比传统的MUX缩放加法器的计算精度提高了21%;与NSSA相比,TLSSA的精度提高了99%,同时节省了27%的功耗和41%的面积,EPO减少了23%,TPA提高了69%。而改进的内积单元的计算精度与其他传统的基于与或门的架构相比提高了40倍,与双极型编码相比,精度提高了421倍;对比于传统Ax PC,本文提出的TLSSA-Ax PCMAC需要付出36%EPO增高和17.2%TPA损失的作为精度大幅提升的代价。而将本文优化设计的内积计算单元应用在Le Net-5架构中对MINIST数据集进行分类时,仅有0.33%的精度损失。
其他文献
锂硫电池因其高的理论比容量和高的能量密度被认为是最先进的储能设备之一。硫作为正极活性物质,具有资源丰富,价格低廉的优点。然而,锂硫电池的商业化应用一直存在着严重的挑战,如硫和最终产物Li2S2/Li2S差的导电性以及充放电过程中多硫化物的穿梭效应等。为了解决上述问题,本论文基于多硫化物具有极性的特点,围绕锂硫电池正极材料开展研究,并选择极性材料进行改性研究,探讨多硫化物催化转化机理,旨在缓解穿梭效
在软件工程的应用实践中,企业应用系统的开发占有相当大的比重。只要有用户参与的系统一般都要有访问控制,它要求应用程序按照安全策略控制用户只能访问自己被授权的资源。随着企业应用的发展,各类企业应用中的用户量大、组织层级关系复杂、业务资源繁多,对系统的安全性提出了更高的要求。为了解决这类应用开发过程中安全模块开发的复杂性,分析了基于角色的访问控制模型和基于资源的访问控制模型的特点,结合企业应用系统访问控
消费者需求的多元化使得企业关注到产品质量的差异化。许多企业希望通过采用线上专供策略,一方面,可以满足不同客户的需求,另一方面可以避免渠道冲突。线上专供策略不同于以往文献中异质品投放的研究,线上专供产品是指与线下渠道的产品仅在质量上存在差异,外观看来一模一样,具有一定的迷惑性。也正是因为如此,线上渠道消费者由于在购买前无法观察到产品的实际质量如何,往往根据以往购买经验、品牌商誉、口碑等产生一个预期参
近年来,完美涡旋光束(Perfect optical vortex,POV)由于其光束环半径独立于拓扑电荷值的优良特性,在光学微操纵以及光通信方面有着诸多的应用。特别的,在光学微操纵领域,POV在提供相位梯度的同时,也提供了较强的径向强度梯度,这能够很好地捕获并且旋转高折射率微粒(微粒的折射率高于周围介质的折射率),然而对于低折射率微粒,这反而会造成难以捕获。为了解决这一问题,研究者提出了双环完美
全面预算管理是以预算管理为核心的、系统性的企业管理活动,涵盖了预算的编制、预算的执行、预算的分析、预算的调整、预算的考核等。保证做到“全员、全程、全额”都开展预算管理是企业全面预算管理的关键。企业通过多方面的密切考量,按照要求进行预算编制工作,在预算工作的执行过程中,迅速地找出问题,并适时地进行预算调整。以企业的战略为目标,合理地激励员工来完成预算规划。C银行信用卡中心成立于2006年,从2006
荆楚地区具有悠久的历史和深厚的文化底蕴,园林发展起源早,具有丰富的园林成果。受荆楚地域内地理环境和历史文化等复杂因素的影响,荆楚园林不仅具有中国传统园林的特点,更是形成了独具特色的美学表现与艺术风格,如道教圣地武当山,郊野林泉习家池,皇家陵寝明显陵,人文荟萃问津书院等等。在几千年的发展历程中,荆楚园林也形成了独有的营造手法体系。近年来许多专家学者投入对荆楚园林的研究工作中,对荆楚园林的发展历程脉络