llama.cpp上线Decision models与systemone端点
先了解这件事
AI 综述
2026年10月2日,Hugging Face CEO Clément Delangue 在 X 上转发 llama.cpp 作者 ggerganov 的消息:llama.cpp 中的 Decision models 现已可用,最新 llama 构建提供 /v1/systemone 端点,支持在本地高效、私密地进行 Jev-style 推理。目前该端点已支持多个开源模型,后续还将增加更多模型支持。
报道时间线
10月2日
- llama.cpp 上线 Decision models 与 /v1/systemone 端点
ggerganov 宣布 llama.cpp 中的 Decision models 现已可用,最新 llama 构建提供 /v1/systemone 端点,可在本地高效、私密地进行 Jev-style 推理,目前支持多个开源模型,后续还将增加更多。