AIatMeta· @AIatMeta · X·· 3 小时前AI 评分
Meta 宣布 Muse Spark Open 可在两台 Apple M5 Ultra Mac Studio 上运行
Meta 官方宣布 Muse Spark Open 针对两台 Apple M5 Ultra Mac Studio 与最新 MLX 框架做了优化,以让先进模型更易获取。该模型还支持 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、llama.cpp 和 Unsloth 等主流推理引擎,并针对 AMD、Apple、Intel 和 NVIDIA 芯片做了优化。开发者还可使用 PyTorch(含 TorchTitan)对模型进行微调定制。
为帮助让更多人用上先进模型,Muse Spark Open 针对两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 进行了优化。
它还能在 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、llama.cpp 和 Unsloth 等主流推理引擎上运行,并针对 AMD、Apple、Intel 和 NVIDIA 芯片做了优化。
开发者还可以用 PyTorch 进一步定制该模型,包括使用 TorchTitan 进行微调。
来源:AIatMeta · x.com