跳到正文
原文
SemiAnalysis_· @SemiAnalysis_ · X·· 18 小时前AI 评分61

SemiAnalysis:中国前沿模型已运行在中国国产芯片上

AI 导读

SemiAnalysis 发文称,中国前沿模型已运行在中国国产芯片上。文中引用 GLM-5 论文称,GLM-5 从第一天起就全栈适配中国 GPU 生态,已在 Huawei Ascend。

正文 · AI 翻译

中国的前沿模型已经跑在中国自研芯片上了。

“记住,GLM-5 的论文到现在已经快一年了。论文里写道:‘从第一天起,GLM-5 就针对国产 GPU 生态进行了全栈适配。我们已成功完成深度优化,覆盖从底层内核到上层推理框架的全部环节,横跨七大主流国产芯片平台,包括华为昇腾、摩尔线程、海光、寒武纪、昆仑芯、沐曦和燧原。’”

“我们说的不一定是英伟达 GPU 和内核。据他们自己宣称,这个模型已经在七种不同的国产加速器上运行了好几个月。”

“人们原本觉得由中国实验室在 GPU 上提供服务是不可能的,因为中国实验室并没有那么多 GPU。但结果发现他们用的是国产硬件。他们打通了从内核到系统的每一层,同时还能高效地提供这些模型的服务。”

来源:SemiAnalysis_ · x.com