跳到正文
原文
UnslothAI· @UnslothAI · X·· 1 天前AI 评分56

Unsloth 发布 MiniMax-M3.1-Flash 2-bit GGUF 本地运行方案

AI 导读

Unsloth 发布 MiniMax-M3.1-Flash 的 2-bit GGUF,可在 150GB RAM 环境中本地运行。其量化方案比原版小 45%,同时保留 91.5% 的 top 1 准确率;Unsloth 称该模型是其尺寸下能力最强的开放模型,并提供 GGUF 与使用指南。

正文 · 原文

MiniMax-M3.1-Flash can now run locally!

We made 2-bit GGUF retain 91.5% top 1 accuracy while being 45% smaller. Run on 150GB RAM.

MiniMax-M3.1-Flash is the strongest open model for its size & among the best overall.

GGUF: huggingface.co/unsloth/MiniM…

Guide: unsloth.ai/docs/models/minim…

来源:UnslothAI · x.com