跳到正文
原文
Hugging Face Blog·· 10 天前AI 评分38

Liquid AI 发布 LFM2.5-VL-DSpark 草稿模型,加速视觉语言模型推理

Accelerating vision-language models with LFM2.5-VL-DSpark

AI 导读

Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布实验性 DSpark 草稿模型,解码速度在设备端最高提升 3.13x、H100 上最高 2.66x,端到端最高提升 2.62x 和 2.27x。该草稿模型约 280M 参数,仅增加 8.9% 参数量,首日支持 llama.cpp、MLX-VLM 和 SGLang,输出质量不变。

来源:Hugging Face Blog · huggingface.co