范式智能联合睿思智联推出开源一站式生产级AI部署平台 “模域ModelSphere”

10月16日,由范式智能与北京睿思智联科技有限公司共同推出的开源生产级AI部署平台“模域”(ModelSphere)正式上线。该平台以免费开源策略覆盖企业用户,整合算力管理、模型部署与运行优化于一体,旨在简化AI部署与运维流程,帮助企业降低成本,推动算力高效转化为安全、稳定且可实际落地的AI服务。当前大模型已进入规模化商业阶段,企业在算力统筹、模型部署及效能优化方面,普遍面临资源利用率低、芯片生态适配难、部署门槛高、生产环境调优复杂等痛点,而模域的推出恰好针对这些问题。其核心优势体现在简化部署、持续自动化调优、统一管理异构算力及适配主流模型四大维度:通过图形化面板与预置部署能力,支持自动弹性扩缩容、三级KV缓存等企业级优化,将系统吞吐效率提升近3倍,真正释放算力价值;融合EngineX推理引擎,支持多国产算力芯片统一调度,无需重复适配底层代码;持续跟进开源社区迭代,快速适配DeepSeek系列、Qwen、Kimi等主流模型,缩短部署周期并达到生产级性能;与vLLM、SGLang等推理引擎协同,提供集群级纳管与全流程优化,保障系统高性能与高可用。模域采用Apache 2.0宽松协议,开源于GitHub,致力于通过工程化能力降低大模型应用门槛,借助产业协作完善芯片与模型适配,充分释放异构算力商业潜力,为企业AI业务高效落地提供成熟支撑。

--91likeyou---

3.统一管理多种芯片,减少重复适配:平台融合 EngineX 推理引擎,支持并针对多种算力芯片进行深度调优,可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源,用户无需为不同芯片重写底层逻辑代码。

4. 持续优化适配主流模型,加快部署应用:模域团队持续跟进开源社区迭代,已适配优化了 DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM 等主流模型,支持在模型发布后快速部署并且性能调优至生产环境,帮助企业将新模型落地实际业务。

模域在 AI 技术栈中的定位

在技术层面上,模域与 vLLM、SGLang 等推理引擎互相配合:推理引擎负责提升单台服务器的计算效率,模域则负责集群架构级纳管和优化,包括负载和缓存感知的请求路由、统一的 KV 缓存池、基于服务质量的自动化扩缩容、服务断流自动续写、基于线上数据的自动化性能调优、运行监控及服务管理等,保证生产环境下系统的高性能和高可用。

模域全面开源,将大模型部署与优化的工程能力向更多企业和开发者开放,同时汇聚产业力量,持续完善对不同芯片和模型的支持,减少硬件适配障碍,降低大模型应用门槛,帮助企业用好已有算力,高效释放异构算力的商业潜能。

模域采用宽松的 Apache 2.0 协议,已在 GitHub 上线:

🔥 热词:#AI · #范式智能联合睿思智联推出开源一站式生产级AI部署平台 · #模域ModelSphere · #10 · #16 · #北京 · #范式智能联合北京睿思智联科技有限公司宣布 · #一站式生产级