跳到正文
原文
Hugging Face Blog·· 2026-07-23精选AI 评分60

Diffusers 原生支持 Nunchaku 4-bit 扩散推理

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 导读

Diffusers 现已原生支持 Nunchaku 的 SVDQuant 4-bit 量化推理,加载 Nunchaku checkpoint 只需调用 from_pretrained(),无需本地编译 CUDA,内核通过 kernels 包从 Hub 下载。

推荐理由

原文给出 Nunchaku Lite 在 Diffusers 中的加载方式、显存与延迟数据,读者可据此判断消费级 GPU 跑扩散模型的实际收益。

来源:Hugging Face Blog · huggingface.co