跳到正文
原文
MiniMax_AI· @MiniMax_AI · X·· 23 小时前AI 评分60

MiniMax M3.1 Flash 通过 Unsloth 提供 2-bit 量化与本地部署路径

AI 导读

MiniMax M3.1 Flash 经 Unsloth Dynamic GGUFs 转换为 143.9GB 的 2-bit 版本,在其七个领域评测中达到 91.5% 的 top-1 token 一致率。

正文 · AI 翻译

MiniMax M3.1 Flash 与 @UnslothAI 社区相遇了。🐙🦥✨

Unsloth 的 Dynamic GGUFs 将我们的 428B MoE 模型压缩至 143.9GB 的 2-bit 体积;根据他们在七个领域中的评估,top-1 token 一致率达到 91.5%。

这意味着更低的内存门槛,让用户能够自行托管、通过 Unsloth Desktop 和 llama.cpp 进行部署,并为现有应用和智能体提供兼容 OpenAI 的 API。

凭借 GitHub 上超过 78K 颗星以及 Hugging Face 上逾 5 亿次模型下载,Unsloth 为 M3.1 Flash 提供了一条融入成熟开发者社区的路径;这些开发者正在运行、评估并基于开放模型进行构建。

开放权重。本地掌控。更多构建方式。

来源:MiniMax_AI · x.com