Hugging Face CEO称某模型升级至1m上下文
先了解这件事
AI 综述
2026年10月17日凌晨,Hugging Face CEO Clément Delangue 在 X 上发文称某模型迎来重大升级:推理速度更快、kv-pool 显著增大、上下文长度最高可达 1m。他同时提到 MiaAI_lab 的 TensorFold recipe 使速度提升约 20%。Delangue 表示其实测在 400k 上下文下达到 56 tok/s(使用 YaRN x2),并计划当晚继续测试 1m 上下文。截至发稿,1m 上下文的实测结果尚未公布。
报道时间线
10月17日
- 某模型获大幅升级:1m 上下文与更快推理实测
作者称某模型迎来重大升级,速度更快、kv-pool 显著增大、上下文最高达 1m,并提到 MiaAI_lab 的 TensorFold recipe 快 20%。作者实测 400k 上下文下达到 56 tok/s(YaRN x2),并计划当晚测试 1m 上下文。