Hugging Face Blog·· 2026-08-21精选AI 评分62
Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍
Up to 3.2x Faster Inference with LFM2.5-DSpark
AI 导读
Liquid AI 为 LFM2.5 家族三款模型(LFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1B)发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下提升解码速度,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍。
推荐理由
原文给出三款草稿模型在 H100 与 MacBook 上的实测吞吐与接入方式,读者可据此判断端侧推理的可用性。
来源:Hugging Face Blog · huggingface.co