大模型的推理成本与能耗，关键取决于推理框架这一中间环节。DeepSeek全面开源其内部推理框架DeepInfer，并同步开放生产级编解码组件，将大规模部署的优化经验向社区开放。此举不仅是技术开放行为，更是推动AI普及、降低使用门槛的重要产业信号。推理框架的核心价值在于统筹调度海量算力，其效率直接决定AI服务的成本与能耗。DeepSeek长期专注于推理性能优化，在已开源大模型、TileLang编译工具及推理算子库的基础上，进一步开放DeepInfer框架。该框架集成高性能算子与深度优化引擎，支持分布式推理、推测解码等多类能力，兼容英伟达与华为昇腾平台，能有效降低算力成本与能源消耗，助力智能触达更广泛人群，实现大模型普惠。同时，DeepSeek将持续支持社区优化部署，开放开源生态以推动技术普惠。
--91likeyou---
「为善与众行之，为巧与众能之。」我们希望通过分享内部的部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，从而高效构建私有化及公有云部署，降低算力成本、减少能源消耗，让智能以更低的价格触达更广泛的人群，实现真正的大模型普惠。我们也将继续支持社区进行大规模部署优化，欢迎加入我们的开源行列。
DeepInfer
基于 DeepInfer，我们已实现 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。未来，DeepSeek 新模型的推理代码及后续优化也将在此持续更新。
- DeepInfer 推理框架：集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。
- deepseek-recipe 编解码组件：同步开源的生产级 Token 编解码组件，与 DeepSeek 官方 API 处理逻辑完整对齐，确保社区获得与官方部署一致的 API 体验。
开源仓库：
- DeepInfer:
- deepseek-recipe:
复制链接进入浏览器打开或点击“阅读原文”查看 DeepSeek 知乎技术报告：
未来展望
借助全面开源的模型、算子库与推理框架，我们期待着在不远的未来，能够看到全球 AI 服务的范围与质量获得前所未有的扩展与提升，变得更加公平、透明、可信赖，进而实现在全社会范围内加快技术迭代、减少能源浪费，让有限的资源以更高的效率在基础设施与用户终端之间流转，以每个人都能够负担的成本传递更加强大的智能，以及伴随着智能的善意和无限可能性。
DeepSeek 将与各位一同携手，为实现这样的未来图景而不懈努力。
作者：DeepSeek 公众号：DeepSeek
题图来自Unsplash，基于CC0协议
🔥 热词：#DeepSeek开源首个智能体框架 · #DeepSeek开源的成效包括 · #deepseek开源对世界的影响 · #deepseek开源对政策的影响 · #deepseek开源昇腾算子的意义 · #DeepSeek开源模型IMO金牌突破 · #DeepSeek开源模型全球心智占领 · #DeepSeek 开源昇腾基础组件 知乎