UnslothAI· @UnslothAI · X·· 3 小时前AI 评分
Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF 本地运行方案
Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF,使这一 1 万亿参数模型可在 Mac Studio 上本地运行,并保留 91% 的 top-1 准确率。Unsloth 称 Le Chonk 是目前最强的西方开放模型,同时提供 GGUF 和部署指南入口。
Mistral Le Chonk can now run locally!
The 1 trillion parameter model runs on a Mac Studio with our 1-bit GGUF which retains 91% top-1 accuracy.
Le Chonk is the strongest Western open model to date.
GGUF: huggingface.co/unsloth/Mistr…
Guide: unsloth.ai/docs/models/mistr…
来源:UnslothAI · x.com