DeepSeek 十月双发：V4.1-Flash-1017 上线，推理框架 DeepInfer 全面开源

title:- DeepSeek 十月双发：V4.1-Flash-1017 上线，推理框架 DeepInfer 全面开源
date: 2026-10-22
tags: DeepSeek, 大模型, 开源, 推理框架
slug: deepseek-v41-flash-1017-deepinfer
description: 10 月 17 日 DeepSeek 静默换上 V4.1-Flash-1017 并开源权重，10 月 20 日又把生产级推理框架 DeepInfer 与 deepseek-recipe 一并放出，还首次公开了单集群 155 万亿 Token/天、每卡每小时 38 美金的运营账本。

十月的第三周，DeepSeek 在四天里做了两件事：换掉线上模型，公开自家那台"印钞机"的图纸。
10 月 17 日，V4.1-Flash-1017 上线，网页端、App、API 同步切换，MIT 协议权重同步挂上 Hugging Face 和 ModelScope。10 月 20 日，内部大规模推理框架 DeepInfer 全面开源，配套放出生产级 Token 编解码组件 deepseek-recipe，并在知乎发布技术报告《DeepSeek V4.1 Flash 大规模推理部署实践》，报告里第一次写明了单集群吞吐和单卡收入。
前一件把单次任务的成本压下去，后一件把压成本的方法本身交了出来。
一、1017：只动后训练的一次迭代
这次更新最反直觉的地方是，架构一个字没改。
9 月 10 日发布的 V4.1 Flash 带来了 Causal-Encoder-Decoder（CED）非对称结构：20 层编码器加 20 层解码器，552B 稀疏 MoE 主干，prefill 阶段每 token 激活 8B、decode 阶段激活 16B，配合压缩稀疏注意力（CSA2）与 FP4 主 KV 缓存，把 100 万 token 上下文压到每 token 约 890 字节，约为上一代 V4-Flash 的四分之一。1017 版本沿用这套结构，动的只有后训练。
参数量这里有个口径坑。官方 9 月公告写的是"552B 参数的 MoE 模型"，指主干；但模型卡与社区实测显示，还有一块 196B 的 Engram 条件记忆模块，两者合计总参数约 763B。这也是社区量化体积分成两块的原因：主权重 151.77 GiB 加 FP8 Engram 表 188.83 GiB。看到 552B 和 763B 两个数字打架时，别以为是谁写错了。
改动的方法是官方称为 RLSF（reinforcement learning with self-feedback）的自反馈强化学习，即用模型自己的自评、自批判作为奖励信号，取代人工标注者或外部奖励模型。DeepSeek 说这条路主要提升了端到端项目构建能力，官方给它起了个名字叫"许愿式"编程：提示词和素材给得很少，几轮交互就直接产出能跑的东西。演示案例包括故宫 3D 建模、网页版赛车游戏、用 Godot 引擎复刻的《传送门 2》，以及一个叫 Valley of Ages 的 3D 场景。
二、官方基准：十一项全涨，但依然有输的
下面是官方对比表中 1017 相对 9 月版的变化，以及同表里几个主要对手的分数。这些全部是 DeepSeek 自报数据，官方表里挑的闭源参照物是今年 7 月的 Claude Opus 5，没有纳入 9 月 22 日已上线的 Opus 5.5。

• DeepSWE v1.1：74.2 → 77.0（Claude Opus 5 为 74.0，GPT-5.6 Sol 为 73.0，Kimi K3 为 67.5）
• Terminal-Bench 4.0：31.2 → 42.3（Claude Opus 5 为 51.8）
• ProgramBench：20.3 → 29.1（Claude Opus 5 为 37.0）
• NL2Repo-Bench：65.4 → 68.2（Claude Opus 5 为 75.3）
• Automation-Bench v1.0.6：54.8 → 60.5
• Apex Bench v1.1：64.6 → 72.1
• HLE（无工具）：36.8 → 42.6（Claude Opus 5 为 56.3）
  涨得最猛的是 Agent 编程类，输得最明显的是高难度推理与部分仓库级任务。1017 的长处在动手干活这一侧。
  官方 42.3 分，第三方只测出 34
• Artificial Analysis 实测 Terminal-Bench 4.0：34.0%（官方自报 42.3）
• Vals AI 实测 Terminal-Bench 4.0：31.82%（同一项，官方 42.3）
• 同一批任务在 DeepSeek 自家 Harness 下跑出 42.7，切到通用 Claude Code 框架降到 39.1（社区双框架对照）
  差异来自宿主框架。官方跑这类基准用的是 Claude Code harness，第三方机构多用 mini-swe-agent 之类不同的框架，而每个任务还有 8 小时时限，硬件速度和 token 吞吐都会影响结果。1017 的后训练轨迹和自家 Agent 框架咬得很紧，换一个 harness 分数就掉。这也解释了官方为什么在公告里专门点名要求 Harness 升级到 v0.2.1-rc.1 以上。
  所以看到"77% 分登顶"这类说法时要先问一句：在什么框架、什么 token 预算下测的。厂商自报的分不能直接换算成综合排名。另有报道给出更低的第三方口径（Vals 实测 19.7%），各来源差异较大，这里只引用两个互相独立、互相印证的数字。
  更值得记的是成本那一栏。官方公布的 DeepSWE v1.1 曲线显示：1017 拿到 77.0 分，每个任务平均花费不到 0.20 美元；低推理档位下仍能保持 72% 左右，约 0.10 美元；上一代 74.2 分要花约 0.50 美元；而 GPT-6 Astra、Gemini 3.8 Flash、Opus 5 落在每任务 2 美元到 10 美元以上。
  每 token 单价没动，省下的钱来自输出变短。价格走峰谷双轨：
• 高峰时段（北京时间工作日 9:00 至 12:00、14:00 至 18:00）：输入未命中缓存 2 元/百万（$0.30）、命中缓存 0.04 元/百万（$0.006）、输出 8 元/百万（$1.20）
• 闲时（夜间、清晨、周末及法定节假日全天）：上表全部五折，即 1 元 / 0.02 元 / 4 元（$0.15 / $0.003 / $0.60）
• 上下文 1M，单次输出上限 384K
  海外不少快讯把 OpenRouter 首日展示的"输入 $0.15、输出 $0.60"当成了全天标准资费，那其实是闲时五折价，高峰时段要翻倍。做预算时按高峰价算才不会翻车。
  模型话变少了，单次任务烧的 token 跟着降，这对 Agent 场景影响最大，那里的成本大头是输出量。不过 Artificial Analysis 的实测也提醒了一点：尽管官方宣称缩短输出，1017（Max）跑完智能指数全套测试仍生成了 2.1 亿 token，高于同级模型 1.4 亿的中位数。即便如此，它完成单个评测任务的综合加权成本约 0.26 到 0.27 美元，约为 Kimi K3 的十分之一、Claude Opus 5.5（单任务均价 $5.98）的二十二分之一。
  调用侧不需要改任何代码：模型名 deepseek-flash 已指向 1017，旧名 deepseek-v4-flash、deepseek-v4-flash-vision-exp 仍可用，请求由新模型承接、按 Flash 价格计费。
  顺带一提，这次之前还有个小插曲。10 月 17 日早些时候，有开发者在模型列表里捕捉到 deepseek-v4.1-flash-1017 短暂出现后消失，deepseek-flash 的 system_fingerprint 也变了。当时只能算疑似，几小时后官方公告坐实了它。
  三、Search 与 Fetch：自研搜索引擎第一次单独卖
  和模型同天开放的还有 Search 与 Fetch 两个 API，底层是 DeepSeek 自研的搜索引擎。官方称其索引千亿级网页，每天服务全球数亿次请求，并通过识别机制过滤 SEO 作弊、GEO 操纵和低质 AIGC 内容。
• Search（POST /v1/tools/search）：单次返回 1 到 50 条结果，含标题、链接、短摘要、供模型阅读的长摘要、发布时间，并附 0 到 3 分的相关性重排分与 0 到 4 级的站点权威度；支持 site、lang、after、before 等语法
• Fetch（POST /v1/tools/fetch）：抓取单个网页，以 Markdown 返回正文
• 计费：每个端点每千次成功请求 5 元（约 0.75 美元），失败、无结果、超时均不计费
• 限流：各来源口径不一致。有报道称两个接口账号限速各 5 QPS，也有报道称 search 100 QPS、fetch 25 QPS。上线前以官方控制台实际返回为准
• 免费期：通过 DeepSeek Harness、Claude Code、Codex 的服务端工具调用目前不计费，北京时间 2026 年 11 月 1 日 00:00 起开始按次收费
  最后这条要盯一下。如果你在这些 Agent 框架里用 DeepSeek API，账单上会多出一整行，而且这行不受缓存折扣影响。11 月的发票可能比 10 月高出一截，与模型降价无关。
  做 RAG 和联网 Agent 的省了一道对接第三方搜索的功夫；做成本核算的多了一个按次固定价的计费单位，它的规律和 token 完全不同。
  四、DeepInfer：开源的是引擎，不是整座工厂
  10 月 20 日，DeepInfer 以 Apache-2.0 协议发布在 github/deepseek-ai/DeepInfer（README 的 License 一节明确写了 Apache License 2.0），配套的 deepseek-recipe 组件同步开放，用 Rust 编写并提供 Python 绑定。
  deepseek-recipe 值得单独说一句：这次的开源仓库不再附带传统的 Jinja 聊天模板，多轮思维链、工具调用与穿插图像编码统一交给它处理。过去第三方平台自己糊一套协议转换，开发者拿非官方 API 去接 Claude Code 或 Codex，经常遇到解析中断、吞字。这个组件就是冲着这个痛点来的。
  DeepInfer 的 README 写得很坦白：它最初主要基于 vLLM 构建，并借鉴了 SGLang 与 TensorRT-LLM。也就是说，这是一个被 DeepSeek 针对自家模型结构和自家集群深度重构过的生产分支，现在回馈给了社区。
  已开源的部分：
• 优化算子：FlashMLA、DeepGEMM、DeepEP、TileKernels、DeepSelect 及自研 TileLang 内核
• 并行策略：注意力侧数据并行（DP）与均衡上下文并行（CP），MoE 侧专家并行（EP）配 EPLB 负载均衡
• DSpark 投机解码：在基础 logits 上叠加只依赖前一 token 的低秩偏置来提升草稿命中率，再用 Confidence Head 预测每个草稿 token 的接受率，按边际收益排序做变长验证；线上口径为一次生成 5 个草稿 token，变长验证相比固定验证带来约 6% 吞吐提升
• SWA Bounded Replay（有界重放）
• 零开销批调度器：把 GPU 执行第 N 步与 CPU 调度第 N+1 步、后处理第 N-1 步重叠，GPU 全程不空转
• 批不变推理与确定性采样（仅英伟达平台）：DEEPINFER_BATCH_INVARIANT=1 保证结果不随 batch 组合变化，配合固定 seq_seed 可复现
• 结构化输出：按 JSON Schema、正则或 EBNF 文法约束解码
  没开源的部分（README 明确列出）：KV Cache 存储系统、Prefill/Decode 分离部署的完整集群编排、跨数据并行副本的负载均衡。理由是这三层与 DeepSeek 内部基础设施耦合过深。
  这次开源给的是引擎和工程经验，不是一条开箱即用的完整在线服务。要搭生产环境，负载均衡、缓存池、PD 分离调度还得自己补。
  硬件门槛不低。目前支持 NVIDIA SM100（Blackwell，如 B200/GB200 级别）与华为昇腾 950，软件栈为 CUDA 13 / CANN 9.2，构建要求 Linux、GCC ≥ 13.0、Python 3.12。默认权重 deepseek-ai/DeepSeek-V4.1-Flash-1017 会自动从 Hugging Face 拉取。上一代 Hopper 不在支持列表里，个人单卡玩家基本用不上这套系统。
  从时间线看，这是 DeepSeek 逐层开源的又一步：2025 年 2 月的 Open Source Week 放出 FlashMLA、DeepGEMM、DeepEP、DualPipe/EPLB、3FS；2026 年 9 月 30 日把 TileLang 编译工具、计算库和分布式通信库移植到昇腾；到 10 月 20 日，从权重、算子、编译器、存储到推理引擎、API 协议适配，整条栈基本补齐了。
  五、技术报告里那两个数字
  技术报告披露了两个此前从未公开的数字：
• 单一集群服务吞吐：155 万亿 Tokens/天
• 整体收入：每卡每小时 38 美金（按谷价）
  这是国内第一家公开单卡收入和 Token 吞吐规模的模型公司。作为对照，AWS、Azure、GCP 官网列表价上 H200 单卡每小时 6 到 8 美元、B300 为 15 到 20 美元。DeepSeek 同一张卡卖 Token 的收入，是出租这张卡的 2 到 6 倍。
  这套系统的设计思路是把不变的和常变的彻底拆开：
• Prefill 与 Decode 分家：Prefill 算力密集，用 8 卡机（EP/DP 2 到 8）；Decode 访存密集，用 64 到 128 卡超节点跑 Wide-EP；生产配比接近 1:1
• KV Cache 分两层仓储：Block KVCache 是长上下文主体记忆，进独立的 3FS 存储集群（约 100 PiB SSD，峰值读 10 TiB/s、写 850 GiB/s，纠删码 10+2），TTL 按流量类型设为 agent 3 天、chatbot 7 天；SWA KVCache 只在活跃会话内分钟级复用，直接留在本机内存，TTL 180 秒，实测命中率 98% 以上
• 效果：单张 Prefill 卡的有效吞吐从 60K tps 抬到 1.5M tps（约 25 倍），因为 96% 的历史上下文根本不用 GPU 重算，直接从 SSD 池经 RDMA 送进显存
• 线上输入平均长度约 77K tokens，输入缓存命中率约 96%，TTFT 约 400ms，生成速度约 230 token/s（代码场景可达 300 token/s）
  这组数字要分两层看。155 万亿与 38 美金是 DeepSeek 官方口径，第三方无从核验；“约 2400 张卡”、“收入中命中缓存占 19.9%、未命中输入占 41.4%、输出占 38.7%“这类拆解是社区博主基于官方表格的推算，不是官方陈述。别把 38 美金当成你自己部署的收益预期，那是它的流量结构、它的电价、它的缓存命中率。
  六、SWA Bounded Replay：论文方案怎么被生产现实推翻
  技术报告里有一段很少见的内容：DeepSeek 写下了"我们试过 A，放弃了，换成了 C”。
  V4 技术报告曾提出 Zero SWA Caching：滑动窗口缓存完全不落盘，未命中就精确重算。听起来优雅。但到了 V4.1 的生产环境一算账，发现两条路都不划算：SWA 缓存只在当前活跃对话的几分钟内有用，却要占掉固态硬盘将近一半的容量；拿存好几天的 SSD 去装只活几分钟的数据，生命期和成本完全错配。
  替代方案是有界重放：SWA 状态缺失时，只重算最近 128 个 token，并把注意力窗口截断在重算段内。重算代价变成与上下文长度、层数无关的常数，Prefill 总计算量近乎减半。
  大多数公司的技术博客只发成功案例。把论文方案被生产现实否决的过程写出来，少见。
  七、落到具体处境该怎么选
  用 API 的话：什么都不用做，deepseek-flash 已经是 1017。要检查的是 11 月起的 Search/Fetch 计费，以及 Agent 任务的单次成本是否真的降了。
  用 DeepSeek Harness：官方建议升级到 v0.2.1-rc.1 及以上。同日发布的 rc.2 增加了对 1017 和 Search/Fetch API 的支持。这个版本是官方在公告里点名的三个适配框架之一（另两个是腾讯 CodeBuddy、WorkBuddy）。
  私有化部署：DeepInfer 把原本要自己抠 CUDA 算子和流式解析的活做成了标准件，deepseek-recipe 更是把 Chat Completions、Responses、Messages 三套协议互转与工具调用跨 chunk 流式解析都对齐了官方行为，第三方部署能给开发者和官方 API 一致的工具调用体验。但硬件门槛是 SM100 或昇腾 950，且 KV Cache 管理与负载均衡仍需自建。
  手头只有一张消费级显卡：先认清"权重开源"不等于"跑得动”。Unsloth 已放出动态 GGUF（UD-Q4_K_XL 约 501 GB，UD-Q8_K_XL 约 508 GB）；社区 ds4 方案做到 2.36 bits/weight，主权重 151.77 GiB 加 FP8 Engram 表 188.83 GiB（含 0.90 GiB 视觉编码器），因为 Engram 行是流式从磁盘读的，128 GB 内存的机器能跑，实测最高约 20 token/s。但社区实测反馈，常规加载这一量级需要 2 至 4 台 DGX Spark 节点，或配备超大统一内存的 Mac Studio M3 Ultra（MXFP4 格式下解码约 37 tokens/s）。对绝大多数团队来说，直接调官方 API 并吃满上下文缓存折扣，远比自己买半个机柜的显存划算。
  八、第三方实测：开源子榜第一，总榜第十二
  我第一版写的是"1017 尚无第三方独立评测"，这个判断已经站不住了。10 月 19 日至 20 日，几家机构陆续出了数据：
• Arena 代码盲测榜（Code Arena: WebDev）：1017（Max）得 1670 分，比 9 月版提升 52 分，在开源权重子榜中居首，排在 Kimi K3（Max）与 Claude Opus 5（High）之前；但在包含闭源模型的 WebDev 总榜上只列第 12，距榜首 Claude Opus 5.5（1818 分）差 148 分
• Vals AI：Vals Index 56.58%，超过 Kimi K3 的 50.3%，每次测试成本 $0.64（Kimi K3 为 $6.44）；9 月版为 51.32%、$0.33
• Artificial Analysis：1017（Max）智能指数约 45 分，开源权重模型中排第 2；输出速度约 227 tokens/s
• Code Arena WebDev 之外，只采信第三方统一实测的综合榜上，该模型覆盖率约 43%，综合评分 63.8，列第 15（榜首为 Claude Opus 5.5 的 73.7）
  在开源权重阵营里它是当前最强的一档，领先优势明显；拉到含闭源的总榜上，离榜首还有可观差距。"开源模型第一"和"全球第一"是两件事，转述时别混在一起。
  需要提醒的是，智能指数 45 分这个数字在不同来源间有争议。有开发者社区指出该值属于外推猜测而非实测，引用时请回溯到 Artificial Analysis 官网页面确认。
  顺带补一条竞争格局：10 月 19 日 MiniMax 发布 M3.1 Flash，同样 100 万上下文，输入 1 元/百万、输出 4 元/百万、缓存读取 0.1 元/百万，在 Automation-Bench v1.0.6 上拿下 62.2 分，反超 1017 的 60.5。国产 Flash 档位第一次出现双强，这对开发者是好事。
  九、还需要等一等的问题
• 昇腾侧的实际吞吐：DeepInfer 把昇腾 950 和英伟达 SM100 并列为第一梯队支持，但官方所有已发布基准都跑在英伟达上（4 卡 prefill / 64 卡 decode，均在单一 scale-up 域内），批不变推理与确定性采样两项能力 README 也标注了 NVIDIA only。国产芯片上能否跑出接近的成绩，决定了"普惠"这个说法成不成立。
• 完整度：KV Cache 存储、PD 分离编排、跨副本负载均衡均未开源，意味着 100 PiB 缓存池的运营体系仍然是最难复制的部分。开源降低了门槛，但没有搬走护城河。
• 长上下文的可靠性：社区实测中，500K token 以上时出现过任务流程走完但最终校验结果错误的情况，也有开发者反馈长会话中会丢失初期设定的工程约束。1M 上下文能不能稳定吃满，还需要更多一线验证。
• 服务稳定性：就在本次更新前两天的 10 月 15 日，DeepSeek 网页端与 API 中断约 5 小时，官方按前 7 天消耗额以赠金形式全额补偿。今年以来其服务状态记录已有数十次故障。把生产流量切过去之前，这根弦得绷着。
  MaaS 厂商通常开放权重、保留推理框架，这在一定程度上维系了官方 API 的定价能力。DeepSeek 反着来：模型开源获客，推理系统开源降低部署门槛，运营数据公开建立信任。切换成本和心智成本都往下走。它赌的是，当所有人都用同一套高效率方法部署时，规模最大、电价最低、工程最细的那家仍然赚得最多。
  别人靠信息不对称卖 API，它靠信息对称抢用户。
  参考资料
  一手来源（已直接核验）
• DeepSeek 官方公告：DeepSeek-V4.1-Flash-1017: Wish-Driven Programming Made Real
• DeepSeek API 更新日志
• DeepInfer README（Apache-2.0、支持硬件、未包含组件均以此为准）
• 技术报告《DeepSeek V4.1 Flash 大规模推理部署实践》（知乎）
  二手与交叉验证来源
• The Decoder：Deepseek V4.1 Flash 1017 beats larger rivals in agentic tasks
• 上海纽约大学 RITS：DeepSeek Ships V4.1-Flash-1017: Faster Agents, Same Price
• The Aggregate Digest（10/20）：V4.1 Flash 1017 replaces Kimi K3 as best open-weights model
• The Neural Feed：官方 42.3% vs 第三方 34% / 31.82% 的差异分析
• 澎湃新闻：DeepSeek宣布全面开源内部推理框架
• 《财经》：155万亿Tokens与38美元，藏着DeepSeek怎样的经营逻辑
• 智东西：MiniMax M3.1 Flash 发布与 Flash 双强格局
  校验说明
  初稿有两处错误已修正。一是"截至发稿无第三方独立评测"，实际上 10 月 19 日至 20 日 Arena、Vals AI、Artificial Analysis 都已出数据，第八节已补正；二是"552B 总参数"，552B 只是 MoE 主干，另有 196B Engram 条件记忆，合计约 763B。
  以下内容引用前建议回溯原始页面：Search/Fetch 的 QPS 限额（各来源口径不一）、Artificial Analysis 智能指数 45 分（有社区指为外推值）、Terminal-Bench 4.0 的第三方实测值（AA 34.0% / Vals 31.82%，另有更低口径报道）。
  文中"约 2400 张卡""收入构成占比"属于社区基于官方表格的推算，不是官方陈述。155 万亿 Token/天与每卡每小时 38 美金是 DeepSeek 官方口径，未经独立核验。