跳到正文
原文
ggerganov· @ggerganov · X·· 11 小时前AI 评分36

llama.cpp v0.7.0 支持 Qwen3.8-Flash-Next

AI 导读

llama.cpp v0.7.0, 128GB Mac/Spark: llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on

正文 · AI 翻译

llama.cpp v0.7.0,128GB Mac/Spark:

llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on

来源:ggerganov · x.com