读见

DeepSeek 开源推理框架:走向真正普惠的未来

约 4 分钟约 836 字

读前速览

4 个要点

DeepSeek 发布 V4.1-Flash-1017 新模型,在性能提升的同时降低任务成本,并开放自研搜索 API 与模型权重。

  1. V4.1-Flash-1017 模型性能与成本深度优化

    新模型在多个基准测试中表现优异,通过缩短任务运行时间和输出长度,实现了性能与成本的更优平衡。

  2. 基于反馈的强化学习训练机制

    通过自反馈的强化学习技术,显著提升了模型在从零构建复杂项目时的逻辑能力。

  3. 开放自研搜索 API 与 Fetch 功能

    DeepSeek 开放了自研搜索接口,支持对全球大规模网页的实时索引与内容获取。

  4. 模型权重全面开源社区

    模型权重已同步在 Hugging Face 和 ModelScope 平台发布,方便开发者下载与本地化部署。

完整摘要

DeepSeek 宣布更新 V4.1-Flash 至 1017 版本,涵盖网页端、APP 同步切换。该模型在多项基准测试中性能提升,同时缩短了任务运行时间与输出长度,在多个框架下达到了性能与费用的平衡。通过基于反馈的强化学习训练,增强了从零构建项目的能力,并在 Hugging Face 和 ModelScope 发布了模型权重。

目录 · 4 节

原创 深度求索 2026-10-20 16:54 北京

大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,还取决于一个长期未被公众了解的中间层:推理框架。

训练使模型学有所成,推理则让模型为人所用。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,其效率直接决定了 AI 服务的算力成本与电力消耗。

DeepSeek 长期致力于将推理性能推向极致。在此前开源一系列大模型、TileLang 编译工具及推理算子库的基础上,我们决定进一步将内部推理框架 DeepInfer 全面开源。

「为善与众行之,为巧与众能之。」我们希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。我们也将继续支持社区进行大规模部署优化,欢迎加入我们的开源行列。

DeepInfer

基于 DeepInfer,我们已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。未来,DeepSeek 新模型的推理代码及后续优化也将在此持续更新。

  • DeepInfer 推理框架:集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台。

  • deepseek-recipe 编解码组件:同步开源的生产级 Token 编解码组件,与 DeepSeek 官方 API 处理逻辑完整对齐,确保社区获得与官方部署一致的 API 体验。

开源仓库

复制链接进入浏览器打开或点击“阅读原文”查看 DeepSeek 知乎技术报告:https://zhuanlan.zhihu.com/p/2095560295930508953

未来展望

借助全面开源的模型、算子库与推理框架,我们期待着在不远的未来,能够看到全球 AI 服务的范围与质量获得前所未有的扩展与提升,变得更加公平、透明、可信赖,进而实现在全社会范围内加快技术迭代、减少能源浪费,让有限的资源以更高的效率在基础设施与用户终端之间流转,以每个人都能够负担的成本传递更加强大的智能,以及伴随着智能的善意和无限可能性。

DeepSeek 将与各位一同携手,为实现这样的未来图景而不懈努力。

图片

值得记下

在多个 Harness 下达到了性能与费用的最优。
通过自反馈的强化学习训练,增强了从零构建项目的能力。
DeepSeek 搜索是原生搜索引擎,索引了全球大规模网页。