星的四种视角 ✧
研究记录

FedNova 实验复现:36 次 CIFAR-10 训练与论文对照

在 WSL2 与 RTX 5060 Ti 上完成 FedNova 的 36 次 CIFAR-10 训练。六组均优于 FedAvg,末轮提升 4.49–7.77 个百分点;逐组对照论文表 1,保留最佳值、三种子波动、图 2/图 5 与 FP64 恢复记录。

本文目录

完整实验报告见文档阅读器,包含可切换的论文对照图、100 轮训练曲线、36 次逐种子结果和 3,600 行原始 CSV。

主要结论

六组设置下 FedNova 的第 100 轮平均测试准确率均高于 FedAvg,提升 4.49–7.77 个百分点,18 对同种子比较方向全部一致。论文表 1 的数值仅部分吻合,固定本地轮次+近端更新的 FedNova 仍低于论文 4.38 个百分点。

统计与复现范围

每组为三个训练种子的均值与样本标准差,同时保留第 100 轮和各次训练最佳值。36 次正式训练均完成 100 个通信轮,每轮评估完整的 10,000 张测试图像。0.025 学习率的部分试验未计入统计,两次运行累计三次 FP64 失败客户端重算已在报告中披露。

覆盖论文 v1 表 1 前六行、图 2 和图 5,不包含 VR 与 Momentum+VR。图 2、图 5 与随包历史记录的吻合不等同于与论文原始数值吻合;图 5 公开数据的平均本地步数为 82.67,论文图注为 94。

阅读 FedNova 论文 v1

算法名称与图 5 参数核对

近端本地更新搭配 FedAvg 聚合即 FedProx。固定与随机本地轮次各三个种子,共六次 FedProx 训练;对应归一化方法在报告中标为 FedNova-Prox。

图 5 的参与比例、本地轮次、批大小 20、初始学习率 0.02 和 FedProx 系数 μ=1 与公开设置对应,但平均本地步数 82.67 与原图 94 不同。精确数据实例、初始化、学习率衰减时序和随机过程未全部对齐,因此保留“核心趋势复现、数值部分吻合”的结论。图表仅从原始 CSV 重绘,保留全部峰值和波动。

文档阅读HTML 原件
READING ROOM

在此阅读文档

在此打开 HTML 原件,保留报告的排版、图表和互动。

打开阅读前不会加载原件。

一起聊聊

← 返回研究记录回到顶部 ↑