Unsloth开源本地训练Decision模型方法
先了解这件事
2026年10月8日，Unsloth在X宣布开源本地训练Decision模型的方法。用户可借助开源Unsloth repo，将Qwen3.5、Gemma 4等任意LLM转为决策模型，仅需4GB VRAM。具体做法是用Unsloth和LoRA（r=64）微调一个Clef head训练一个epoch。报道显示，该方法将Qwen3.5 0.8B在3个决策基准上的综合准确率从20.7%提升至74.3%，下游准确率从30–37%提升。同日稍晚，Unsloth进一步宣布仅需2.5GB VRAM即可用Laya这类小模型训练Decision Model，训练通过UI界面完成，并提供视频教程与分析指南，GitHub仓库为github.com/unslothai/unsloth。早先报道称需4GB VRAM，后续报道称用Laya小模型仅需2.5GB VRAM。
报道时间线
- Unsloth：2.5GB VRAM 即可用 Laya 训练 Decision Model
Unsloth 宣布仅需 2.5GB VRAM 即可用 Laya 这类小模型训练自己的 Decision Model，训练通过 UI 界面完成，视频教程和分析见其指南，GitHub 仓库为 github.com/unslothai/unsloth。
- Unsloth 开源本地训练 Decision 模型的方法，Qwen3.5 0.8B 决策基准准确率提升至 74.3%
Unsloth 宣布用户现在可以在本地训练自己的 Decision 模型，其将 Qwen3.5 0.8B 在 3 个决策基准上的综合准确率从 20.7% 提升到 74.3%，仅需 4GB VRAM。借助开源 Unsloth repo，可把 Qwen3.8、Gemma 4 等任意 LLM 转成决策模型；具体做法是用 Unsloth 和 LoRA（r=64）微调一个 Clef head 训练一个 epoch，将下游准确率从 30–37% 提升到 78%。相关 Guide 和 Notebooks 见 unsloth.ai/docs/basics/train，仓库地址 github.com/unslothai/unsloth。