同一集群利用率提升 33 个百分点：Hugging Face 约束感知 GPU 调度器如何改变分配顺序

Hugging Face 构建了约束感知的 GPU 分配器，在相同硬件和负载下对比 FIFO 调度器，七个基准场景中 GPU 利用率最高提升 33 个百分点，优先级加权产出最高提升 105%。在五个真实争用场景中，利用率从 52–85% 提升至 72–88%，优先级加权价值平均提升 52%。核心变化不在硬件，而在于分配决策的顺序：实时推理按需求曲线逐时间步分配，批式任务按优先级跨整个调度周期排布。