_lewtun· @_lewtun · X·· 20 小时前AI 评分
TRL v1.15 新 Triton kernel 支持超长上下文
如果你在用 TRL 训练,真的应该升级到 v1.15。我们新的 Triton kernel 能在同一块 GPU 上把 SFT/RL 扩展到 >100k tokens 🔥
If you're training with TRL, you should really upgrade to v1.15. Our new Triton kernel scales SFT/RL to >100k tokens on the same GPU 🔥
来源:_lewtun · x.com