去中心化学习起源于美国计算机学家D.肖姆(David Chaum,1955-01-01~ )构建的“混合网络”系统,并被用于开发了世界上第一个去中心化支付系统(专利US4529870)。不同于中心化学习中中心节点对全局模型和计算资源的“集中调控”,去中心化学习中保持每个数据节点独立运行,并通过在相连节点之间的信息传输来构建和更新全局模型。值得注意的一点是,在去中心化学习中,每一个数据节点都拥有全局模型的信息,这一点与只在中心节点储存和更新全局模型信息的中心化学习相反。因此,与中心化学习体系相比,去中心化学习系统有更强的数据安全性和系统稳定性。
以同步算法为例,概述去中心化学习算法如下。
初始化:在各数据节点上进行模型的参数初始化。
节点信息更新:每个节点各自更新节点信息(例如,根据随机梯度下降法得出局部模型参数更新)。
节点信息交换:所有节点一步更新完毕后,相连的节点之间进行信息的交换;每个节点整合接收到的信息。所有节点信息同步后,开始下一步更新运算。
终止:一旦节点满足预先给定的终止标准(例如,达到最大迭代次数或模型精度大于阈值),模型更新停止,所有节点保留最终全局模型信息。
在异步算法中,节点信息交换环节不用等待所有节点一步更新结束,而是在各自节点更新结束后实时进行信息传输(见图)。与同步算法相比,异步算法可以避免低效节点对整体系统的影响,节省了大量等待时间。
去中心化学习系统不会由于单个节点的被攻击而导致全网瘫痪。在2010年,出现了许多基于去中心化学习系统的网络协议。到2021年初,最常用的去中心化协议包括比特币,以太坊和Binance Chain区块链,以及Uniswap,SushiSwap和复合去中心化金融(DeFi)协议。
联系客服