HAMi v2.11.0 发布:Remote GPU 调度、AMD GPU 共享、昇腾 ENPU、NUMA Refit 与走向成熟的 Flexible MIG
HAMi 社区正式发布 HAMi v2.11.0。
本次发布要点:
- Remote GPU:在没有 GPU、没有 NVIDIA 驱动的客户端节点上运行 CUDA 与 vLLM Pod,使用 Lupine GPU 服务器通过网络提供的 GPU。
- AMD Instinct GPU 共享:AMD GPU(ROCm)成为 HAMi 的一等公民,支持按大小或百分比限制显存、限制算力、NUMA 与 XGMI 感知放置、调度策略与队列优先级,全部在容器级强制执行。
- 昇腾 ENPU 模式:与模板模式、hami-core 并列的第三种切分方式,提供 fixed-share、elastic、best-effort 策略隔离,同时
hami-vnpu-core完成大规模性能优化。 - NUMA refit:kubelet Topology Manager 与 HAMi 调度器达成一致,CPU 亲和性与 GPU 放置落在同一 NUMA 节点。
- Flexible MIG 走向成熟:动态 MIG 设备支持 CDI 注入、带回退的放置打分、按 Pod 的 profile 偏好。
- 更安全的调度器:安全审计驱动下的 extender 与 webhook 加固,Filter 路径性能提升。
- 平台与 Chart:OpenShift 与 SELinux 支持、重构后的
devices.VENDORchart、节点容量资源上报。 - 官网大改版:信息架构重组、Concepts 章节重绘、
llms.txt、安装与升级指南重构。
v2.11.0 共合并 220 多个 pull request,来自 50 多位贡献者,其中 29 位是首次贡献。
本文将对 v2.11.0 的主要更新进行详细说明。