【摘 要】
:
分布式优化是当前研究的热点问题,其在大规模机器学习、智能电网、无线传感网络等领域中都有着广泛的应用。分布式优化算法依赖于多个智能体之间的相互通信,一方面,这会带来单个智能体的隐私泄露问题;另一方面,大规模网络结构下通信受到通信能耗过高、通信带宽有限等现实条件的制约。因此,分布式优化算法的隐私保护性以及通信效率成为衡量算法性能的重要指标。然而,已有的具有隐私保护性的分布式优化算法往往面临通信成本较大
论文部分内容阅读
分布式优化是当前研究的热点问题,其在大规模机器学习、智能电网、无线传感网络等领域中都有着广泛的应用。分布式优化算法依赖于多个智能体之间的相互通信,一方面,这会带来单个智能体的隐私泄露问题;另一方面,大规模网络结构下通信受到通信能耗过高、通信带宽有限等现实条件的制约。因此,分布式优化算法的隐私保护性以及通信效率成为衡量算法性能的重要指标。然而,已有的具有隐私保护性的分布式优化算法往往面临通信成本较大,单次迭代计算复杂度高的问题。本文针对上述问题,综合考虑算法的隐私保护性,通信高效性和计算简易性,以分布式交替方向乘子法(ADMM)为基础,利用基于事件触发的通信机制、函数近似法、随机扰动策略,提出了两类具有隐私保护性的分布式优化算法。具体而言:1.本文针对通信受限的场景提出了一个具有隐私保护性且通信效率较高的二阶算法:PC-DQM。为了降低通信成本,PC-DQM利用事件触发通信机制对每次通信进行审查;而通过对目标函数进行二阶近似,同时对近似后目标函数的Hessian矩阵引入随机噪声,PC-DQM能实现隐私保护同时避免了因优化子问题带来的计算负担过重的问题。理论分析表明,PC-DQM能够线性收敛到最优解且具有隐私保护性;而实验表明PC-DQM能够正确解决分布式优化问题,并且能够同时实现隐私保护和降低通信负担。与现有的隐私保护算法相比,PC-DQM不仅能保护隐私,同时可以提升算法通信效率;而与二阶近似ADMM算法相比,PC-DQM不仅具有隐私保护性且算法的通信成本更小。2.为了进一步降低隐私保护算法单次迭代的计算复杂度,本文提出了一个具有差分隐私性的一阶算法:DP-DLM。为了降低算法的计算负担,DP-DLM对目标函数进行一阶近似,从而使得原始变量的更新具有闭式表达,且只需要梯度信息。而为了实现差分隐私同时保证算法的收敛速率较快,DP-DLM对原始变量引入了方差线性(次线性)衰减的高斯噪声。理论分析表明:DP-DLM能够线性(次线性)收敛到最优解,并且具有差分隐私性。而实验结果表明:在隐私保护性要求不是很高的场景下,DP-DLM的精确度并没有因为隐私保护和一阶近似而下降太多;而在隐私保护性要求很高的场景下,相比于现有基于ADMM的差分隐私算法,DP-DLM在精确度和计算负担上都具有一定优势。该论文的研究结果为分布式隐私保护算法提升通信效率,降低计算复杂度提供了可行的思路,丰富了分布式优化算法隐私保护的研究,提高了具有隐私保护特性算法的实用性,具有重要的理论意义和实践意义。
其他文献
随着互联网的迅速发展,人们对高服务质量(QoS)的需求不断增长。数据中心作为网络流量的主要载体,面临着巨大的网络资源管理的挑战。为了对网络流的QoS性能指标(如时延、抖动以及丢包率等)进行优化,就必须对网络的传输特性进行建模。也就是说,只有理解了网络拓扑结构、流量强度以及路由方式等各个变量之间复杂的内在联系,对网络进行建模,利用建模后得到的网络模型对网络流的候选路由方式进行评估,才能知道应该如何对
随着信息体量不断增长、全球趋于互联互通,需要通信系统具有更大的容量和更快的传输速度。光纤通信优势明显且应用广泛,是高速信息传输的关键技术。本文的主要研究内容是应用于时钟数据恢复电路中的锁相环(Phase-Locked Loop,PLL)设计和应用于光接收机前端放大器中的低压差线性稳压器(Low Dropout Regulator,LDO)电路设计。锁相环和低压差线性稳压器都是光通信系统中重要的功能
随着信息应用技术的高速发展,完备的数据成为各行各业发展的必要前提,在此背景下,数据共享也成为云存储技术的热门应用之一。然而由于数据本身蕴藏的巨大价值,数据在共享过程中的安全问题愈加严重。恶意用户、恶意云存储服务器以及黑客会通过各种方法窥探用户的隐私,常见的两种情况分别是通过用户的数据访问模式来推测用户访问数据的内容以及通过发布的数据来挖掘用户敏感信息。针对用户数据访问模式的保护,通常利用不经意的随
近似计算是一种常用于容错性应用中的计算电路设计手段,该方法是通过牺牲一定数据精度来提升集成电路的能效。近期的研究表明,卷积神经网络推理过程存在离散的分类特征,对计算中可接受误差的容忍度比较高。本课题结合对数近似计算原理,设计了一种能效较高卷积计算单元,可以在保证一定精度的情况下降低计算单元功耗,提升卷积神经网络硬件加速器的能效。本文的设计工作主要有三点。1.优化了对数近似计算原理中的高位筛选算法,
随着高移动性和易用性的移动设备的大范围普及,无线通信服务的规模日益增长。同时大量的数据通信也会带来能量需求增大以及无线传输安全的问题,如何解决这些问题成为了越来越重要的焦点。本文主要研究了在无线通信传输过程中的安全问题,主要内容归纳如下:1.考虑了一个D2D的能量收集系统中,结合Q学习的思想,提出了一种在线学习的能量传输调度方案,该方案能够根据信道信息和电池的剩余电量状态,确定电池的充电时长使得能
第五代通信技术(5G)近些年来发展迅速,在5G网络中,设备到设备(D2D)通信的应用缓解了5G基站的通信压力,提升了通信系统的频谱容量;物联网(Io T)设备的发展推动了5G网络中物联网系统的广泛应用。然而,D2D通信和Io T设备的通信都存在着一些安全问题。当前5G网络D2D通信中,存在着数据机密性难以保证、以及无法实现细粒度访问控制的问题;虽然采用属性基加密算法(ABE)可保证D2D通信的机密
作为我国南极科考的度夏站,泰山站存在能源供应不足现象,为保障泰山站的科考活动正常开展,需要无人值守能源平台为南极科考设备提供持续的能源供应。受环境影响,泰山站冬季处于无人值守状态,为保障无人值守能源平台长期稳定运行,需要为其提供远程通信服务。本文根据实际项目需求,设计并实现无人值守能源平台的数据通信系统,为国内工作人员监测和控制无人值守能源平台提供了渠道。本文对无人值守能源平台的数据通信系统进行功