UnslothAI· @UnslothAI · X·· 4 小时前AI 评分
Unsloth 与 NVIDIA RTX Spark 支持本地训练 120B+ 参数模型
Unsloth 宣布结合 NVIDIA RTX Spark，可在笔记本本地运行和训练 120B+ 参数模型。借助针对 CUDA on ARM 优化的 kernels 和 binaries，diffusion、decision、multimodal 模型训练速度约提升 2.7×，全部本地完成，统一内存最高 128GB。
You can now run and train 120B+ parameter models locally on a laptop! NVIDIA RTX Spark is here. 💚
With Unsloth and RTX Spark, train diffusion, decision, multimodal models ~2.7× faster with optimized kernels and binaries for CUDA on ARM. All local with up to 128GB unified memory
来源：UnslothAI · x.com