跳到正文
原文
Hugging Face Blog·· 2025-12-11精选AI 评分62

llama.cpp 新增模型管理功能:router 模式支持动态加载与切换模型

AI 导读

llama.cpp server 新增 router 模式,可在不重启服务的情况下动态加载、卸载和切换多个模型,实现类似 Ollama 的模型管理。

推荐理由

llama.cpp server 新增 router 模式,读者可了解本地多模型动态加载与切换的具体用法和配置项。

当前提供 AI 导读,完整正文请阅读原文。

来源:Hugging Face Blog · huggingface.co