打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
去中心化学习

词源

去中心化学习起源于美国计算机学家D.肖姆(David Chaum,1955-01-01~ )构建的“混合网络”系统,并被用于开发了世界上第一个去中心化支付系统(专利US4529870)。不同于中心化学习中中心节点对全局模型和计算资源的“集中调控”,去中心化学习中保持每个数据节点独立运行,并通过在相连节点之间的信息传输来构建和更新全局模型。值得注意的一点是,在去中心化学习中,每一个数据节点都拥有全局模型的信息,这一点与只在中心节点储存和更新全局模型信息的中心化学习相反。因此,与中心化学习体系相比,去中心化学习系统有更强的数据安全性和系统稳定性。

算法

以同步算法为例,概述去中心化学习算法如下。

初始化:在各数据节点上进行模型的参数初始化。

节点信息更新:每个节点各自更新节点信息(例如,根据随机梯度下降法得出局部模型参数更新)。

节点信息交换:所有节点一步更新完毕后,相连的节点之间进行信息的交换;每个节点整合接收到的信息。所有节点信息同步后,开始下一步更新运算。

终止:一旦节点满足预先给定的终止标准(例如,达到最大迭代次数或模型精度大于阈值),模型更新停止,所有节点保留最终全局模型信息。

在异步算法中,节点信息交换环节不用等待所有节点一步更新结束,而是在各自节点更新结束后实时进行信息传输(见图)。与同步算法相比,异步算法可以避免低效节点对整体系统的影响,节省了大量等待时间。

去中心化学习算法示意图

应用

去中心化学习系统不会由于单个节点的被攻击而导致全网瘫痪。在2010年,出现了许多基于去中心化学习系统的网络协议。到2021年初,最常用的去中心化协议包括比特币,以太坊和Binance Chain区块链,以及Uniswap,SushiSwap和复合去中心化金融(DeFi)协议。

条目图册

扩展阅读

  • CHAUM D L.Untraceable Electronic Mail,Return Addresses,and Digital Pseudonyms.Communications of the ACM,1981,24(2):84-90.
本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
今天一起聊聊图元嵌入模型
101思维模型:适应性创新一创新的本质是适应
cnsns:DIGG下的赋值初探--孔铁山
归去来兮辞教资面试真题
自动驾驶核心技术之二:路径规划
最优化算法
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服