EdgeRock-4B 跑分

EdgeRock-4B 也能在笔记本电脑上本地运行。在一台 MacBook Pro（M5 Pro，28GB RAM）上，使用 Rock Matrix 的 PyTorch runtime 并通过 Mac 的 GPU 运行，它逐步解出了 17 × 23，4.6 秒后开始回答，生成速度约为每秒 9 个 token。