跳到正文
原文
_lewtun· @_lewtun · X·· 20 小时前AI 评分44

TRL v1.15 新 Triton kernel 支持超长上下文

AI 导读

如果你在用 TRL 训练,真的应该升级到 v1.15。我们新的 Triton kernel 能在同一块 GPU 上把 SFT/RL 扩展到 >100k tokens 🔥

正文 · 原文

If you're training with TRL, you should really upgrade to v1.15. Our new Triton kernel scales SFT/RL to >100k tokens on the same GPU 🔥

来源:_lewtun · x.com