AMD 抢先在 vLLM 上游落地 MegaKernels 解码支持
先了解这件事
AI 综述
2026年10月13日,SemiAnalysis 在 X 上发文称,AMD 已在上游 vLLM 落地 MegaKernels 解码支持,且早于 NVIDIA。这是 vLLM 中首个仅支持 ROCm 而尚不支持 CUDA 的重大功能。据介绍,MegaKernels 通过将 kernel 启动次数减少 10 倍,来服务高交互性解码场景。相比之下,CUDA 侧的上游 vLLM megakernel 支持目前连 draft PR 都还没有。
报道时间线
10月13日
- AMD 抢先在上游 vLLM 落地 MegaKernels 解码支持,早于 NVIDIA
AMD 已在上游 vLLM 落地 MegaKernels 解码支持,早于 NVIDIA,这是首个仅支持 ROCm 而尚不支持 CUDA 的 vLLM 重大功能。MegaKernels 通过将 kernel 启动次数减少 10x 来服务高交互性解码场景;CUDA 侧的上游 vLLM megakernel 支持目前连 draft PR 都还没有。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。