HAMi：面向 K8s 的异构 AI 计算虚拟化中间件

HAMi（Heterogeneous AI Computing Virtualization Middleware）是专为异构计算环境打造的 GPU 共享与调度管理平台，致力于最大化提升 GPU 利用率。它以 Kubernetes 设备插件与调度扩展的形式，提供灵活、可靠、按需和弹性的多元异构 GPU 虚拟化、调度与管理能力，支持 NVIDIA、Ascend 等主流厂商的多种硬件及虚拟化技术。

核心能力

• 异构 GPU 虚拟化：在单张物理 GPU 上切分算力与显存，供多个 Pod 共享，提升利用率。
• 多厂商支持：覆盖 NVIDIA、Ascend 等主流硬件，以及对应的虚拟化技术路径。
• K8s 原生集成：以设备插件、调度器扩展方式接入，业务无需改代码即可申请细粒度 GPU 资源。
• 弹性调度：按需分配、隔离与回收，适配深度学习训练、推理、数据处理与科学计算等高性能场景。

适用场景

• 集群 GPU 利用率低、希望多任务共享同一卡的团队。
• 混合部署 NVIDIA 与 Ascend 等异构硬件的统一调度。
• 深度学习、数据处理、科学计算等对算力弹性需求强的场景。

上手与二开建议

1. 参考官方文档部署设备插件与调度器扩展，先用单卡共享做验证。
2. 为工作负载声明显存/算力配额，观察隔离与回收效果。
3. 二开/集成：可围绕调度策略与厂商后端扩展；协议为 Apache-2.0，适合企业落地。

注意事项

• 上手难度高：涉及 K8s 设备插件与调度机制，需一定集群运维基础。
• 共享隔离依赖底层虚拟化支持，按实际硬件确认能力边界。