跳到正文
原文
AIatMeta· @AIatMeta · X·· 3 小时前AI 评分58

Meta 宣布 Muse Spark Open 可在两台 Apple M5 Ultra Mac Studio 上运行

AI 导读

Meta 官方宣布 Muse Spark Open 针对两台 Apple M5 Ultra Mac Studio 与最新 MLX 框架做了优化,以让先进模型更易获取。该模型还支持 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、llama.cpp 和 Unsloth 等主流推理引擎,并针对 AMD、Apple、Intel 和 NVIDIA 芯片做了优化。开发者还可使用 PyTorch(含 TorchTitan)对模型进行微调定制。

正文 · AI 翻译

为帮助让更多人用上先进模型,Muse Spark Open 针对两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 进行了优化。

它还能在 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、llama.cpp 和 Unsloth 等主流推理引擎上运行,并针对 AMD、Apple、Intel 和 NVIDIA 芯片做了优化。

开发者还可以用 PyTorch 进一步定制该模型,包括使用 TorchTitan 进行微调。

来源:AIatMeta · x.com