rohanpaul_ai· @rohanpaul_ai · X·· 4 小时前AI 评分
Qwen3.8-27B RL 后训练模型发布,AA-Omniscience 幻觉率减半
一款基于 Qwen3.8-27B 的 RL 后训练模型用开源环境训练,将 AA-Omniscience 幻觉率从 30.4% 降至 15.1%。
今年一些最有趣的智能体(agent)成果,正来自小型开源模型的后训练。
一个使用开源环境进行强化学习(RL)后训练的 Qwen3.8-27B 模型,将 AA-Omniscience 上的幻觉率从 30.4% 降至 15.1%。
MLA 版本的压缩副本可以装进我单张 24 GB 的 RTX 4090,且能容纳约 3.5 倍于基础 Qwen 的上下文。
它在 DeepSWE 上击败了 GPT 6 Luna-medium,成绩介于 Luna 6 medium 和 high 之间。
在 Terminal-Bench 2.1 上得分更高,且每个解决的任务平均只输出 23.8K 个 token,而基础 Qwen 需要输出 54.9K。
试用了这个模型的一个未发布版本,真切感受到了所谓的「比较智能密度」——它写得少得多。
在 Terminal-Bench、τ³-bench、ClawEval 和 BFCL v4(Berkeley Function Calling Leaderboard)上超越了 Muse Glimmer 30B 和 OpenAI 的 GPT-6 Luna(high),不过 Luna 在 DeepSWE 上仍以 53.1% 领先。
他们还发布了 MLA 版本,即同一个模型,其 16 个全注意力层被转换为多头潜在注意力(multi-head latent attention),使每个 token 占用的内存从 64 KiB 降至 18 KiB,从而能在单张 GPU 上容纳更多或更长的会话。
来源:rohanpaul_ai · x.com