跳到正文
原文
testingcatalog· @testingcatalog · X·· 3 小时前AI 评分38

EdgeRock-4B 跑分

AI 导读

EdgeRock-4B 也能在笔记本电脑上本地运行。在一台 MacBook Pro(M5 Pro,28GB RAM)上,使用 Rock Matrix 的 PyTorch runtime 并通过 Mac 的 GPU 运行,它逐步解出了 17 × 23,4.6 秒后开始回答,生成速度约为每秒 9 个 token。

正文 · 原文

EdgeRock-4B also runs locally on a laptop. On a MacBook Pro (M5 Pro, 28GB RAM) with Rock Matrix's PyTorch runtime on the Mac's GPU, it solved 17 × 23 step by step, started answering after 4.6 seconds, and generated about 9 tokens per second.

来源:testingcatalog · x.com