DeepSeek 再次出手:非对称激活与极致缓存技术
2026-11-02  1次浏览

国内AI 圈已经安静了好几个星期,安静得有些反常。然后,在十月一个普通的周六,DeepSeek 突然放出了更新,名字叫 v4.1 Flash 1017。听起来,不过是一次小修小补。

但这次,显然没那么简单。

如果你一直在搭建本地大模型工作流,或者扩展智能体系统,应该很熟悉最近的竞争节奏:前沿模型轮番更新,提升却大多在预料之中。DeepSeek 这次直接打乱了节奏。在 SWE-bench 自动化测试中,这个新的开放权重模型,一举超过了 Claude Opus 5 和 GPT-5.6 Sol。逆向工程、终端操作成了它的优势项目,而完成一次任务的成本,却降到了竞争对手的一小部分。

接下来,我们拆开看看:这些变化究竟来自哪里,新的非对称架构如何工作,以及那套激进的缓存策略,能给你自己的流水线带来什么启发。汉荣算力一体机就很好的解决这个问题。

架构:把算力用在真正需要的地方

v4.1 Flash 的架构,展示了一种精细的资源分配方式。模型保留了高达 5,520 亿参数的主体,但不会每次都把所有参数激活。DeepSeek 采用的是非对称因果编码器—解码器架构。

处理输入时,只有 80 亿参数处于激活状态;进入输出生成阶段后,激活参数量才增加到 160 亿。

可以把它想成一台现代混合动力发动机。堵车怠速时,没必要让一台 V8 发动机所有气缸一起卖力,真需要扭矩时,再让更强的动力介入。通过压低输入处理阶段的计算开销,DeepSeek 把缓存未命中时的输入价格也压到了很低的水平。

这种变化,会直接体现在计算账单上。复杂智能体任务的平均成本,从大约 0.49 美元降到了 0.20 美元,约合人民币 1.3 元。而按照文中给出的比较,海外模型要在 SWE-bench 上达到相同通过率,需要花费数十元。对于测试自托管部署,或者运行大规模评测流水线的开发者,这样的效率,足以改变哪些任务值得放进生产环境的判断。

愿望式编程,以及模型自己的纠错能力

DeepSeek 正把重点转向一种被称为“愿望式编程”的方式。概念很直接:你描述想得到的最终结果,规划、编码、环境配置和执行,都交给模型处理。

但问题也来了:怎样避免模型陷入那种熟悉的循环——代码明明是错的,它却写得信心十足?

关键在后训练流程,尤其是带有自反馈的强化学习。训练过程中,模型也充当自己的质量检查员。假设一个智能体正在制作赛车游戏,结果汽车直接穿墙而过,说明碰撞检测出了问题。模型会根据游戏引擎的物理约束检查输出,指出缺失的碰撞逻辑,再把这份判断用作奖励信号。

这种自检循环,目标是让模型少绕弯、多做事。智能体每次调用模型,通常都需要再次发送已有上下文;这些 token 被反复计费,正是很多自动编程项目成本失控的原因。通过生成更精简的代码,并在内部发现自身的逻辑错误,v4.1 Flash 减少了任务来回交互所消耗的 token。

这套思路已经开始接受规模化测试。DeepSeek 与清华大学近期发布了用于智能体训练的沙箱 DSAC。智能体自行构建环境,会话被保存为快照,快照再成为下一轮训练场景。由此形成的递归自我改进循环,可以自动运行。

DeepInfer:模型之外,更值得看的东西

DeepSeek 十月这轮密集更新里,最值得关注的收获,或许不只是模型本身。还有 DeepInfer 的开源——它正是支撑其商业 API 的推理框架。

如果你在维护自己的推理服务器,或者搭建无服务器流水线,值得看看 DeepSeek Recipe 编解码方案。它面向 NVIDIA SM100 GPU 和华为昇腾 950 NPU,整合了高度优化的算子、分布式并行,以及推测解码。

对你自己的架构而言,一个可以借鉴的方向是:更长时间地保留缓存。

多数主流服务商的上下文缓存,保留时间在五分钟到二十四小时之间。DeepSeek 则将智能体缓存保留三天,普通聊天缓存通过 3FS 集群保留七天。

按照文中的数据,这样的保留策略,让平均 77,000 个输入 token 中的 96% 命中缓存,吞吐量提升至原来的 25 倍。如果你正在构建无服务器生物信息学流水线,或者需要反复评估包含大量参考资料的数据集,让 KV 缓存跨越多天会话持续复用,可能显著降低推理成本。相同上下文不必反复进行预填充,新增生成内容才成为主要的增量计算负担。

再配合 dSpark 推测解码,普通文本的推理速度达到每秒 230 个 token,代码则超过每秒 300 个 token,首 token 延迟降至约 400 毫秒。

搜索这一层,它也想自己做

最后一块拼图,是 DeepSeek 如何让模型接触真实的网络信息。它悄悄开放了自研搜索引擎的 API。

智能体需要现实世界的数据时,可以直接查询 DeepSeek 的内部索引,不必绕经传统的消费级搜索引擎。搜索结果以干净的 JSON 返回,包含标题、网址、摘要,以及重要的重排序评分和权威性评分。另一个抓取命令,则可以把 URL 对应的内容转换成整洁的 Markdown,方便大模型直接处理。

文中给出的价格,是每一万次成功请求大约 0.75 美元,超时和空结果不收费。相比之下,一些其他网页抓取 API,每一千次请求就要收取 4 至 15 美元。掌握搜索层,也让 DeepSeek 能在内容进入上下文窗口之前,过滤 SEO 垃圾信息,以及面向生成式搜索的操纵内容。

如果你正在开发数据密集型应用,使用专门针对大模型优化的 Markdown 抓取工具,通常比拿传统抓取库自行解析原始 HTML 更省事,也更容易获得稳定的输入内容。

接下来该优化的,远不止模型智力

开放模型领域的价格战越来越激烈,而这种竞争,也在推动工程效率不断提升。MiniMax 等竞争者已经开始用 M3.1 Flash 这样的模型回应,继续下调低峰时段的 token 价格。

对于软件工程师,值得关注的变化很清楚:优化系统时,不能只盯着模型聪不聪明。竞争已经深入系统架构。非对称参数激活、长时间缓存复用,以及整合 Markdown 输出的搜索 API,都可能帮助生产系统进一步提升速度、降低成本。

更新推理节点,重新检查缓存逻辑,然后动手做起来。可以使用的工具,已经摆在眼前。