Alex_tra_memory· @Alex_tra_memory · X·· 9 小时前AI 评分
Decision 3.0 上线 Core ML，d3-lite 在 M5 Pro 上实测每秒处理 8.3 个 PR
Decision 3.0 现已支持 Core ML。d3-lite 在 M5 Pro 上对 1,000 个 pull request 进行分诊并归入 vllm-sr 工作组，实测每个 PR 0.12 s、吞吐 8.3 PRs/s，全程数据不离开 Mac。lite、nano 和 mini 版本均已转换并合入同一仓库，代码托管在 huggingface.co/FluidInferenc… 与 github.com/FluidInference/Fl…。
Decision 3.0 现已支持 Core ML 🍎
d3-lite 正在 M5 Pro 上实时运行，将 1,000 个 pull request 分类到 vllm-sr 工作组：每个 PR 0.12 秒，每秒 8.3 个 PR，数据完全不离开这台 Mac ⚡
lite、nano 和 mini 版本均已转换完毕，并整合在同一个仓库中 👇
🤗 huggingface.co/FluidInferenc…
🛠️ github.com/FluidInference/Fl…
来源：Alex_tra_memory · x.com