UnslothAI· @UnslothAI · X·· 1 天前AI 评分
Unsloth 发布 MiniMax-M3.1-Flash 2-bit GGUF 本地运行方案
Unsloth 发布 MiniMax-M3.1-Flash 的 2-bit GGUF，可在 150GB RAM 环境中本地运行。其量化方案比原版小 45%，同时保留 91.5% 的 top 1 准确率；Unsloth 称该模型是其尺寸下能力最强的开放模型，并提供 GGUF 与使用指南。
MiniMax-M3.1-Flash 现在可以在本地运行了！
我们让 2-bit GGUF 在体积缩小 45% 的同时，仍保持了 91.5% 的 top 1 准确率。可在 150GB 内存下运行。
MiniMax-M3.1-Flash 是同等规模下最强的开放模型，也是整体表现最佳的模型之一。
GGUF：huggingface.co/unsloth/MiniM…
指南：unsloth.ai/docs/models/minim…
来源：UnslothAI · x.com