UnslothAI· @UnslothAI · X·· 3 小时前AI 评分
Unsloth 与 NVIDIA RTX Spark 支持本地训练 120B+ 参数模型
Unsloth 宣布结合 NVIDIA RTX Spark，可在笔记本本地运行和训练 120B+ 参数模型。借助针对 CUDA on ARM 优化的 kernels 和 binaries，diffusion、decision、multimodal 模型训练速度约提升 2.7×，全部本地完成，统一内存最高 128GB。
现在你可以在笔记本电脑上本地运行和训练 1200 亿+ 参数的模型了！NVIDIA RTX Spark 来了。💚
借助 Unsloth 和 RTX Spark，通过针对 CUDA on ARM 优化的内核和二进制文件，训练扩散模型、决策模型、多模态模型的速度可提升约 2.7 倍。全部本地完成，统一内存最高可达 128GB
来源：UnslothAI · x.com