从 HAMi 到 HAMi-DRA:异构环境的算力资源管理实践|AICon深圳

在人工智能领域,异构计算已成为推动技术革新的关键力量。随着模型参数规模的不断突破和推理成本的持续下降,开源生态日益繁荣,但真正的竞争力已不再局限于模型本身。如今,行业关注的焦点转向如何构建可规模化的智能系统,以及如何通过系统工程与组织级落地能力实现这一目标。2026年AICon人工智能开发与应用大会·深圳站将聚焦于AI基础设施、大模型系统、智能体工程、数据智能、多模态技术与行业落地等关键方向,邀请来自腾讯、阿里、华为、百度、蚂蚁集团等50+头部科技企业技术负责人和科研机构一线专家共同探讨。其中,范式智能(原名第四范式)的工程师杨守仁将分享其在HAMi到HAMi-DRA项目上的最新实践成果,展示如何在Kubernetes v1.34中推进动态资源分配(DRA)特性,实现GPU等复杂硬件资源的精细化调度。

--91likeyou---

范式智能系统研发专家杨守仁已确认出席 “AI Infra、推理工程与异构计算” 专题,并发表题为从 HAMi 到 HAMi-DRA:异构环境的算力资源管理实践的主题分享。随着国产算力的发展,算力集群的从单一的 NVIDIA 设备逐步走向有更多不同国产厂商设备构成的异构算力集群,异构算力的管理这个问题逐步浮出水面。HAMi 作为范式参与发起的项目,是范式在异构算力管理上的实践的成果。HAMi 在易用性和管理能力上取得了一个较好的平衡,但是受限于 Kubernetes 的 Device Plugin 本身的缺陷,调度性能和精细化分配的能力面临瓶颈。但是随着 Kubernetes v1.34 将 Dynamic Resource Allocation(DRA) 特性正式推进至 GA,集群设备资源管理从以节点为中心的分配模型,逐步演进为以资源对象为核心的声明式管理模式,相比传统 Device Plugin 接口仅能暴露简单容量信息,DRA 通过引入 ResourceClaim 使设备资源能够在 Pod 创建之前完成表达与约束,为 GPU 等复杂硬件资源的精细化调度提供了新的基础能力。

HAMi-DRA 是 HAMi 社区在 DRA 方向上的最新实践,结合范式自身的异构算力管理实践,HAMi-DRA 能在不牺牲核心调度能力的前提下,将现有 GPU 虚拟化调度体系平滑迁移至 DRA 资源模型。从范式的实践结果来看 HAMi-DRA 在调度性能和精细化管理方面带来了显著的提升。

本次分享将从 Kubernetes 设备资源模型演进的视角出发,向大家介绍范式以及 HAMi 社区在异构设备管理的面临的挑战和实践,同时详细解析 HAMi-DRA 的整体架构设计与关键实现细节,展示如何基于 DRA 构建面向 AI 工作负载的可扩展 GPU 调度方案,并且综合说明在落地 HAMi-DRA 的过程中范式以及社区遇到的挑战。

杨守仁,范式智能(原名第四范式)工程师,系统研发专家。在范式一直关注在 AI Infra 这个方向上,作为主要的负责人之一,参与范式的 GPU 集群的建设。目前是 HAMi 社区的 maintainer 之一,主要的贡献集中于 HAMi 调度器的性能优化和 HAMi-DRA 上,并且参与 HAMi 社区的维护工作。他在本次会议的详细演讲内容如下:

演讲提纲:

背景和动机

  • 异构设备管理的挑战

  • 传统 Device Plugin 的局限性

2. HAMi 的如何解题

  • HAMi 设计思路和关键实现

  • HAMi 的问题和挑战

3. Kubernetes DRA 介绍

  • DRA API

  • Consumable Capacity 特性

4. HAMi-DRA 设计和实践

  • 整体架构和设计理念

  • HAMi-DRA 的落地挑战

    Kubernetes 版本

    学习成本

    有限的设备支持

  • 基于 HAMi-DRA 的 GPU 调度方案

    调度性能提升

    完善的设备生命周期管理

    差异化的设备资源分配

5. 总结和展望

  • HAMi-DRA 后续规划

  • 多个 DRA Driver 联动支持

实践痛点

  • 依赖高版本的 Kubernetes,生产环境推动困难

  • DRA API 还在持续演进,部分特性还不是特性稳定,有一定的集成成本

  • 开箱即用的 DRA Driver 数量较少,支持的异构设备的数量有限

听众收益

  • 详细解析异构算力管理上的挑战

  • 深度拆解 HAMi 和 HAMi-DRA 的设计和关键实现

  • 完整介绍基于 DRA 的 GPU 调度方案的挑战和实践

除此之外,本次大会还策划了AI Infra、推理工程与异构计算、超级个体与蜂群智能的共生进化、迈向机器人 AGI 的关键技术与产业实践、Agent 安全:从风险到可控、端侧智能与 AI 原生终端、AI Agent 高价值商业场景实战等 11 个专题论坛,届时将有来自不同行业、不同领域、不同企业的 50+资深专家在现场带来前沿技术洞察和一线实践经验。

大会限时早鸟票享 8 折专属优惠,现在报名立减 1160,更多详情可扫码或 进行咨询。

🔥 热词:#异构算法工程师 · #异构计算架构 · #评测异构计算能力 · #异构计算领域相关的体系结构 · #异构计算应用场景 · #什么叫异构计算能力 · #异构计算的主流计算路线有哪些 · #异构计算能力要多长时间