Hugging Face Blog·· 25 天前精选AI 评分62
用 HF Jobs 跨机跑 Async GRPO 与 LoRA：靠存储桶和代理替代 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
Hugging Face 博客介绍如何用 HF Jobs 把 AsyncGRPOTrainer 与 vLLM 拆到不同机器上运行：LoRA rank-1 适配器只有几 MB，通过挂载到各 Job 的 Storage Bucket 同步，无需 NCCL，代理负责加鉴权头、按 KV 前缀路由 rollout 并广播适配器加载。
推荐理由
原文给出跨机异步 RL 训练的完整工程配方与五轮调优数据，可迁移到自建训练推理分离流程。
来源：Hugging Face Blog · huggingface.co