testingcatalog· @testingcatalog · X·· 3 小时前AI 评分
EdgeRock-4B 跑分
EdgeRock-4B 也能在笔记本电脑上本地运行。在一台 MacBook Pro(M5 Pro,28GB RAM)上,使用 Rock Matrix 的 PyTorch runtime 并通过 Mac 的 GPU 运行,它逐步解出了 17 × 23,4.6 秒后开始回答,生成速度约为每秒 9 个 token。
EdgeRock-4B also runs locally on a laptop. On a MacBook Pro (M5 Pro, 28GB RAM) with Rock Matrix's PyTorch runtime on the Mac's GPU, it solved 17 × 23 step by step, started answering after 4.6 seconds, and generated about 9 tokens per second.
来源:testingcatalog · x.com