17 亿参数的“端侧全能选手”：Liquid AI LFM3 的三混合架构拆解

小模型赛道昨天（10 月 27 日）迎来一次值得细读的发布：Liquid AI 推出新一代 LFM3 系列，把文本、视觉、音频、全模态和“决策”模型统一到同一个 17 亿参数的底座上。它没有靠堆参数取胜，而是继续押注“卷积 + 注意力”的混合架构，并把目标明确定在端侧 Agent。下面拆开看它到底改了什么。

一、三混合层配比：卷积为主，注意力点睛

LFM3-1.7B-Base 共 24 层，由三类层混合而成：

• 13 层门控短卷积：卷积核大小从 LFM2 的 3 提升到 7，负责廉价地处理局部信息；
• 5 层滑动窗口注意力（SWA）：窗口仅 256 token；
• 6 层全局注意力：负责真正的长程依赖。

直觉很简单：长上下文推理的成本主要来自全局注意力的 KV Cache，把全局层压到 24 层中的 6 层，缓存和计算就大幅下降。官方称，每参数效率上，LFM3-1.7B 在短提示下与 LFM2-1.2B 持平，而在 8K 上下文时约快 25%。这套结构来自其“硬件在环架构搜索”，搜索范围覆盖 14 种设备/后端组合，包括手机、树莓派 5、笔记本、云 CPU、GPU 以及高通 Hexagon NPU。也就是说，架构是被真实设备的延迟“选”出来的，而不只是在 GPU 上调出来的。

二、几处细节改动：为量化与长上下文服务

1. 逐头门控注意力：每个注意力头的输出乘一个 sigmoid 门，没东西可贡献时可以“关掉”。官方认为这有助于抑制激活离群值，而离群值正是低比特量化的天敌。
2. 部分 RoPE：全局注意力层只旋转每个头中频率最高的一半维度，另一半不带位置信息，因此可以不受距离影响地做内容匹配；SWA 层仍使用完整 RoPE。
3. 三明治归一化：每个块对输入和输出都做归一化，保持激活尺度稳定。

训练上，底座预训练 22T token，词表 128K；最后 3.5T token 是中期训练，加大了 Agent 轨迹与工具调用数据的比例，同时把上下文扩展到 256K。

三、一个底座，六个模型

所有模型都从 LFM3-1.7B-Base 分叉：LFM3-1.7B（文本）、LFM3-VL-2B（文本/图像/视频输入）、LFM3-Audio-2B（语音输入输出）、LFM3-Omni-2B（图像、视频、音频全输入，文本与语音输出），以及 d1-2B、d1-omni-2B 两个决策模型。

• 视觉编码器（164M 参数，卷积+注意力）：官方称计算量比此前使用的 SigLIP2 低约 3 倍，在相同语言底座下与 Qwen3.5-2B 的视觉编码器精度相当、FLOPs 少 2.2 倍；视频上每两帧合成一个时间片，时间序列长度减半。
• 音频编码器 + LiquidCodec：编码器完全因果，可边说边预填充，首 token 延迟最低 50 ms；LiquidCodec 在单个 Apple M4 Max CPU 线程上解码速度约为实时的 87 倍。

d1 系列也很有意思：它不生成文本，而是对一组问题一次前向给出带校准概率的答案（是/否、选择、打分、指点物体、估计数值区间等），适合工单分流、发票抽取这类“要决策、不要作文”的场景。

四、官方给出的成绩单

• 文本：LFM3-1.7B 用少 35% 的参数超过 LFM2.5-2.6B；在 WebArena-Verified 上得分 38.42，对比前代的 3.02，并称在浏览器与业务应用的长任务上超过 Qwen3.5-9B。
• 视觉：LFM3-VL-2B（1.9B）在 62 项视觉基准上的平均分从 57.6 升至 71.4，称与 Gemma 4 12B 相当。
• 机器人：基于 VL 底座微调的操作 VLA，在 4 个 LIBERO 子集平均成功率 96.2%，RoboCasa-GR1 桌面任务 45.7%，Jetson AGX Orin + TensorRT FP16 下动作块生成低于 50 ms。

对开发者意味着什么

• 端侧 Agent 有了更现实的底座：文本模型 4-bit 量化后约 1 GB，256K 上下文，官方称已针对 Hermes Agent、Pi、OpenClaw 等 Agent 框架做过后训练。
• “一个底座多模态”降低运维成本：用 Omni 一个模型替换 ASR + VLM + LLM + TTS 的流水线，省掉多模型串接的延迟与部署复杂度。
• 微调门槛低：所有模型都声称可单卡微调，官方提供覆盖 SFT、DPO、GRPO、CPT 的 Colab 笔记本。
• 审慎看待数字：以上基准全部来自厂商自测，尚无独立复现。WebArena-Verified 从 3.02 到 38.42 的跨度，更多说明前代模型在该任务上几乎不可用，而不是 LFM3 已达到可靠水平；“匹敌 12B 模型”也取决于所选基准。上线前请用自己的任务集评测，并留意量化后的实际表现。

结语

LFM3 的看点不在某一个分数，而在方法论：用真实硬件延迟反向塑造架构，再用统一底座覆盖多模态。在 Transformer 大一统之外，“少量全局注意力 + 大量廉价算子”的混合路线正越来越受重视。它能否在独立评测中守住优势，值得接下来几周持续关注。

参考来源

1. Liquid AI, Build specialized multimodal models with LFM3（Hugging Face 博客，2026-10-27）：huggingface.co/blog/LiquidAI/lf…
2. LFM3 模型集合：huggingface.co/collections/Liqu…
3. TPS: Tokens Per Second 新闻摘要：tpsreport.news