Hugging Face Blog·· 2025-12-11精选AI 评分
llama.cpp 新增模型管理功能:router 模式支持动态加载与切换模型
llama.cpp server 新增 router 模式,可在不重启服务的情况下动态加载、卸载和切换多个模型,实现类似 Ollama 的模型管理。
llama.cpp server 新增 router 模式,读者可了解本地多模型动态加载与切换的具体用法和配置项。
当前提供 AI 导读,完整正文请阅读原文。
来源:Hugging Face Blog · huggingface.co