OpenBMB· @OpenBMB · X·· 11 小时前AI 评分
MiniCPM5-2B 在 iPhone Air 上跑出 37 tok/s
在 iPhone Air 上跑出 37 tok/s 确实很猛。🚀 这正是小型、能力强的开源模型的闪光点:无需云端 GPU 也能拥有强大的多模态智能。看到 MiniCPM5-2B 在移动端流畅运行真好。
在 iPhone Air 上跑到 37 tok/s 真是相当惊人。🚀
这正是小型但能力强大的开源模型大放异彩的地方:无需云端 GPU,就能拥有强大的多模态智能。看到 MiniCPM5-2B 在移动端流畅运行,感觉很棒。
来源:OpenBMB · x.com