跳到正文
原文
lucataco· @lucataco · X·· 1 天前AI 评分42

Clef 可通过 llama.cpp 运行

AI 导读

你现在可以通过 llama.cpp 运行 Clef 了! `llama serve -hf ggml-org/Clef-GGUF` Ollama 与 llama.cpp 在我的 M5 Max MBP 上的速度测试:

正文 · 原文

You can now run Clef via llama.cpp!

llama serve -hf ggml-org/Clef-GGUF

Ollama vs llama.cpp speed test on my M5 Max MBP:

来源:lucataco · x.com