perplexity_ai· @perplexity_ai · X·· 5 天前AI 评分
JOLT 后训练方法以 6.5x 更少 token 匹配 GRPO
新研究:我们开发了 JOLT,一种后训练方法,其中同一个模型同时充当教师和学生,教师经过训练,能够给出学生可以利用的反馈。 在 MATH 上,它以少 6.5 倍的训练 token 达到了与 GRPO 相同的准确率。 perplexity.ai/hub/blog/a-goo…
最新研究:我们开发了 JOLT,一种后训练方法,其中同一个模型同时充当教师和学生,并训练教师提供学生能够利用的反馈。
在 MATH 数据集上,它以少 6.5 倍的训练 token 实现了与 GRPO 相同的准确率。
perplexity.ai/hub/blog/a-goo…
来源:perplexity_ai · x.com