跳到正文
原文
Hugging Face Blog·· 2026-05-27精选AI 评分66

Hugging Face 在 TRL 中实现增量权重同步,异步 RL 每步传输量降至 20-35MB

AI 导读

Hugging Face 在 TRL 中落地了增量权重同步(Delta Weight Sync):只把两次 RL 优化步之间真正变化的 bf16 权重编码成稀疏 safetensors 文件,上传到 Hugging Face Bucket,再由 vLLM 拉取应用。

推荐理由

TRL 的稀疏增量权重同步把异步 RL 每步传输量压到原来的百分之几,读者可据此判断跨集群训练的成本边界。

当前提供 AI 导读,完整正文请阅读原文。

来源:Hugging Face Blog · huggingface.co