【摘 要】
:
人工神经网络可以快速高效地学习、组合和分析大量信息,极大地提高了机器学习的效率。如今它作为新兴科技之一,所具有的智能化、便捷化等特点使其被各行各业广泛应用。尤其是在政治、经济和教育行业,人工神经网络的使用更是占据很重的比例。然而,传统的专供集成电路、图形及中央处理单元等电子体系结构,在实现神经网络时均存在能耗大、时间长以及效率低等问题。同样,现场可编程门阵列也存在类似问题。因此实现高计算速度、高计
论文部分内容阅读
人工神经网络可以快速高效地学习、组合和分析大量信息,极大地提高了机器学习的效率。如今它作为新兴科技之一,所具有的智能化、便捷化等特点使其被各行各业广泛应用。尤其是在政治、经济和教育行业,人工神经网络的使用更是占据很重的比例。然而,传统的专供集成电路、图形及中央处理单元等电子体系结构,在实现神经网络时均存在能耗大、时间长以及效率低等问题。同样,现场可编程门阵列也存在类似问题。因此实现高计算速度、高计算精度和超低功耗的光学神经网络具有创新性和实用性。由于光信号具有低功耗、高速、高带宽以及高并行性等优势,使得基于光子技术实现人工神经网络中的非线性单元成为可能,突破基于电子技术的传统非线性函数的瓶颈。许多基于光子技术的非线性函数已经被实施和发表。相比较传统的基于电子技术的非线性函数实现,在光子网络中线性变换和某些非线性变化可以在超过100 GHz的光速下进行,这极大提高了计算速度,显著提升了工作效率。随着对不同类型的半导体激光器在不同结构参数下的研究,可以透彻的分析与掌握半导体激光器的输出特性,有利于在研究中的优化与应用。而近些年来对半导体激光器特性研究的进步以及高速低功耗的非线性计算的需求,也将进一步的促进基于激光器的非线性函数取代传统的非线性函数实现。所以将高质量的激光器非线性输出特性与人工神经网络中非线性单元的实现相结合,可以实现高速、低功耗的光学非线性函数实现。因此,基于量子点自旋VCSELs产生的非线性输出特性,本文研究了一种新的光学非线性函数的实现,并在光学神经网络中得以应用。主要内容如下:首先从计算量大小、输出均值是否为0以及在反向传播求导的过程中是否会造成神经元死亡等方面分析了常见激活函数的优势和劣势,由此确立本文要模拟的激活函数为Re LU。然后推导了量子点自旋VCSELs的标准化速率方程,并用四阶龙格库塔算法求解标准化泵浦强度和激光器总的输出强度之间存在的非线性关系,随之提出用该非线性关系去实现光学神经网络中的非线性单元Re LU。在选择量子点自旋VCSELs参数的过程中,探讨了泵浦极化,线宽增强因子以及标准化增益系数这三个参数对该非线性关系造成的影响,从而确定一套最优参数。在该参数下,基于量子点自旋VCSELs的非线性实现了QDRe LU函数。对于如何使用QDRe LU模拟Re LU函数的问题,提出给量子点自旋VCSEL补偿光泵浦的解决方案。其次,介绍了通道注意力机制,并引进挤压激励模型。同时,分析其数学原理。最后通过仿真,将QDRe LU函数应用于人工神经网络,以此验证相较于激活函数Re LU,该非线性函数的可行性。同时,将挤压激励模型引入神经网络进行实验。结果表明,QDRe LU函数不仅充分利用了光子技术的高速、低功耗和高并行度等优点,同时保证了整个人工神经网络的准确性。本文的研究内容对全光神经网络的战略目标提供了独特的研究意义与应用价值。
其他文献
家蚕(Bombyx mori)由古代野桑蚕经长期驯化而来,在我国是十分重要的经济昆虫以及研究鳞翅目昆虫的重要模式生物。家蚕是一种完全变态昆虫,完整的家蚕一生经过卵期、幼虫期、蛹期、成虫期四个发育阶段,其形态差异巨大且生理机能也完全不同。在家蚕的生长发育和变态过程中,主要依靠由咽侧体合成的保幼激素(Juvenile hormone,JH)与前胸腺合成的蜕皮激素(20-hydroxyecdysone,
热应激极大的损害了雄性动物的生殖能力。支持细胞是睾丸中具有重要功能的一种体细胞,容易受到热应激的损害。精氨酸作为一种功能性非必需氨基酸,在促进仔猪生长发育过程中必不可少,同时精氨酸及其代谢产物在细胞过程和信号传导中起重要作用。然而,尚不清楚精氨酸及其代谢产物是否参与了热应激诱导的睾丸支持细胞的凋亡。本试验利用体外热应激模型,旨在探究精氨酸是否参与热应激诱导的支持细胞的凋亡,并探讨精氨酸及其代谢物在
人工智能及其相关领域的不断融合与发展巩固了以大数据为核心的信息化时代进程,这导致传统集中式优化方法受到了数据爆炸、数据结构日趋复杂、分布式硬件框架深化等客观因素的巨大冲击与深刻影响。因此,以并行计算和分布式存储为核心的分布式优化算法近年来受到了广泛的关注与应用。相较于传统集中式优化方法采用一个中心节点来协调和控制整个网络化系统的计算与通信,分布式优化方法首先将大规模优化问题分解成一系列可和的子问题
柑橘是世界上种植最广泛的水果之一。柑橘黄化脉明病毒(Citrus yellow clearing vein virus,CYVCV)是印度柑橘病毒属(Mandarivirus)的一种新发病毒,可通过柑橘粉虱(Dialeurodes citri)、绣线菊蚜(Aphis spiraecola)以及污染的刀具在柑橘之间进行高效传播,对柑橘产业尤其是柠檬产业具有重大威胁。CYVCV在柠檬(Citrus l
计算机行业一直在逐步增加单个处理器芯片的核数,通过并行计算来获取高性能。随着互补金属氧化物半导体(Complementary metal oxide semiconductor,CMOS)片上技术的不断改进和集成,核上处理芯片的数目在急剧增加,成百上千个核将集成在一个芯片上,多核处理器以高性能的优势发展成为一个极具吸引力的平台。但是,随着芯片上核的增加,处理器的数据速率将很快达到数十GHz,这意味
2014年初,杭州市依托地方财政的投入,积极响应浙江省“五水共治”的战略举措。2015年杭州市各区/县用于“五水共治”的财政投入平均占一般公共预算支出的21%。目前对高财政投入的环境治理政策进行的成效分析,多聚焦于城市环境改善和政府效能提升,但常忽视财政投资导致了居民财富(房价)变化这一重要议题。本研究通过分析政策、水质和房价之间的关系来论证这一议题,补充现有关于“五水共治”政策成效的研究,也有帮
2009-2019年間,各類期刊尤其是文博類期刊陸續刊佈數量眾多的唐代墓誌材料。該批墓誌大多出土於河南、陝西、山西、河北等地,其著錄內容通常包括墓誌圖版及錄文、誌石出土及現存情況、原石尺寸、書體、撰文、刊刻人等方面,爲文史研究提供了相關材料。本文共清理出各類期刊於2009-2019年間所公佈的唐代墓誌158通,其中發掘簡報公佈71通,文史研究類論文涉及87通;有釋文的墓誌153通,無釋文的墓誌5通
随着人机交互技术的发展,基于计算机自动算法的表情识别研究已成为近年来的热点。为了提出更加接近人脑运作机制的表情识别类脑算法,有必要深入研究人们在识别表情时神经元的连接以及神经机制。人脑识别表情的过程在毫秒级别,在这个时间尺度研究脑识别表情的神经机制,且精确定位于完成识别任务相关联的脑区,需要新的研究工具。脑磁图(MEG)兼具高时间分辨率和高空间分辨率,是研究面部表情识别神经机制的理想手段。为了探索
网络技术的发展和社会经济的快速增长为数据中心建设提供了巨大的推动力,数据中心所提供应用服务也在不断增加。应用服务所产生的海量数据带给数据中心巨大的压力,因此许多应用采用分布式存储方案来进行数据的存储。这种场景下,如何保障应用的传输需求,如何提升网络性能都引起了相关研究人员的广泛关注。数据中心中的多数集群应用都以协同流(Coflow)为单位进行调度,Coflow被定义为并行计算所引发的两组服务器之间