UnslothAI· @UnslothAI · X·· 2 小时前AI 评分
Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF 本地运行方案
Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF，使这一 1 万亿参数模型可在 Mac Studio 上本地运行，并保留 91% 的 top-1 准确率。Unsloth 称 Le Chonk 是目前最强的西方开放模型，同时提供 GGUF 和部署指南入口。
Mistral Le Chonk 现在可以在本地运行了！
这款 1 万亿参数模型可在 Mac Studio 上运行，使用我们的 1-bit GGUF，仍能保留 91% 的 top-1 准确率。
Le Chonk 是迄今为止最强的西方开放模型。
GGUF：huggingface.co/unsloth/Mistr…
指南：unsloth.ai/docs/models/mistr…
来源：UnslothAI · x.com