蚂蚁百灵优化Ling-3.0-flash单卡推理
先了解这件事
AI 综述
2026年10月29日,蚂蚁百灵X账号称,其与NVIDIA AI团队开展技术协作,采用三种技术,在单台NVIDIA DGX Spark上优化开放权重模型Ling-3.0-flash的推理。测试显示,在1,319道GSM8K题上,解码吞吐量提升42.5%,从37.81增至53.89 tok/s;平均延迟下降24.5%,从15.21秒降至11.49秒;准确率未出现统计学可检测的变化。
报道时间线
10月29日
- 蚂蚁百灵 Ling-3.0-flash 单卡推理优化
我们与 @NVIDIAAI 团队开展技术协作,采用三种技术,在单台 NVIDIA DGX Spark 上优化了开放权重模型 Ling-3.0-flash 的推理。 在 1,319 道 GSM8K 题上,解码吞吐量提升 42.5%——从 37.81 增至 53.89 tok/s——同时平均延迟下降 24.5%,从 15.21s 降至 11.49s,准确率无统计学可检测的变化。 🧵
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。