星的四种视角 ✧
THOUGHTS IN PROGRESS

学习资料.

可以反复翻阅的学习材料。从基础概念开始,也把每一步推导讲清楚。

清除筛选

主题:联邦学习

11 篇内容

学习资料

矩阵与微积分:从直觉到 FedNova

从矩阵维度、秩、特征值和 SVD 出发,逐步理解二次型、微分、梯度与反向传播,并应用于 FedNova 论文阅读。含 87 张公式卡片、5 个交互实验和 14 道自测题。

联邦学习
学习资料

FedProx 公式推导笔记

从通俗例子读懂 FedProx,并逐步推导原论文式(1)至(16)。第9章含74步代入与不等式解释,附22页英文原论文和24页中文译文,可按式号定位、翻页和放大查阅。

联邦学习
学习资料

FedNova 原论文逐式推导

按 FedNova 原论文 arXiv v1 从式(1)推导到式(183),逐步说明公式代入与不等式,并配有可保存的推导图。

联邦学习
学习资料

fednova论文精读时遇到的问题

围绕 FedNova 论文中的本地更新、梯度归一化、有效权重与目标一致性,解释随机梯度、方差及客户端差异,并配有符号表和数值例子。

联邦学习
学习资料

FedNova 从零推导:基础与扩展

从 FedAvg 的目标偏差出发,逐步学习 FedNova 归一化与收敛证明;9 节基础、6 个扩展、70 条答疑,配有向量互动图解、七条核心公式速记和中英论文全文阅读。

联邦学习
学习资料

联邦学习:从两台设备的一轮训练开始

先用两台设备亲手算清一轮训练,再理解权重、漂移、收敛和隐私。12 讲配白话解释、分步手算和自检,180 条名词可点击或搜索,完整推导、24 道练习及 5 个离线实验保留。

联邦学习
学习资料

联邦学习Fedavg证明

从 FedAvg 更新方程出发,逐步推导下降引理、随机噪声与本地漂移界,结合交互实验理解联邦优化的收敛过程,并对照 FedNova 的适用边界。

联邦学习
学习资料 | 星