跳转到文档内容

4 篇文章 文档包含 "Release"

查看全部标签

HAMi v2.11.0 发布:Remote GPU 调度、AMD GPU 共享、昇腾 ENPU、NUMA Refit 与走向成熟的 Flexible MIG

· 阅读需要 30 分钟
HAMi 社区

HAMi 社区正式发布 HAMi v2.11.0。

本次发布要点:

  • Remote GPU:在没有 GPU、没有 NVIDIA 驱动的客户端节点上运行 CUDA 与 vLLM Pod,使用 Lupine GPU 服务器通过网络提供的 GPU。
  • AMD Instinct GPU 共享:AMD GPU(ROCm)成为 HAMi 的一等公民,支持按大小或百分比限制显存、限制算力、NUMA 与 XGMI 感知放置、调度策略与队列优先级,全部在容器级强制执行。
  • 昇腾 ENPU 模式:与模板模式、hami-core 并列的第三种切分方式,提供 fixed-share、elastic、best-effort 策略隔离,同时 hami-vnpu-core 完成大规模性能优化。
  • NUMA refit:kubelet Topology Manager 与 HAMi 调度器达成一致,CPU 亲和性与 GPU 放置落在同一 NUMA 节点。
  • Flexible MIG 走向成熟:动态 MIG 设备支持 CDI 注入、带回退的放置打分、按 Pod 的 profile 偏好。
  • 更安全的调度器:安全审计驱动下的 extender 与 webhook 加固,Filter 路径性能提升。
  • 平台与 Chart:OpenShift 与 SELinux 支持、重构后的 devices.VENDOR chart、节点容量资源上报。
  • 官网大改版:信息架构重组、Concepts 章节重绘、llms.txt、安装与升级指南重构。

v2.11.0 共合并 220 多个 pull request,来自 50 多位贡献者,其中 29 位是首次贡献。

本文将对 v2.11.0 的主要更新进行详细说明。

HAMi v2.10.0 发布:Flexible MIG、可组合调度策略与更广阔的加速器生态

· 阅读需要 15 分钟
HAMi 社区

HAMi 社区正式发布 HAMi v2.10.0。本次发布在三个方向上取得进展:更灵活的调度策略、更广泛的异构加速器覆盖,以及更加丰富的调度器生态。

v2.10.0 引入了动态 Flexible MIG、全新的 mutex 调度策略、社区期待已久的 NUMA 排序修复、可组合调度策略、PodGroup(gang-scheduling) 支持,以及更准确的 init 容器 资源计量。在设备侧,新增了 AMD MI300X 与壁仞支持、让基于模板的 vNPU 与 HAMi-core 节点在同一集群共存的昇腾异构管理能力,以及 vNPU HAMi-core 监控。同时通过全新的 KAI Resource Isolator 伴随项目,首次实现了 KAI Scheduler + HAMi-core 集成。

本文将对 v2.10.0 的主要更新进行详细说明。

HAMi v2.9.0 发布:昇腾用户态切分、DRA 正式可用与调度生态扩展

· 阅读需要 14 分钟
HAMi 社区

HAMi 社区正式发布 HAMi v2.9.0。这是一个在异构设备虚拟化深度、调度器生态扩展与 Kubernetes 原生标准落地层面具有里程碑意义的版本。

v2.9.0 引入了昇腾 910C HAMi-core 模式、HAMi-DRA 正式可用、项目发布以及 Volcano vGPU 升级至 v0.19 等重磅特性,同时在可观测性、安全性、稳定性等方面进行了系统性增强,共有 19 位新贡献者首次参与。

本文将对 v2.9.0 的主要更新进行详细说明。

HAMi v2.8.0 发布:全面支持 DRA 与高可用调度,迈向标准化 GPU 资源管理

· 阅读需要 6 分钟
HAMi 社区

HAMi 社区正式发布 HAMi v2.8.0。这是一个在 架构完整性、调度可靠性以及生态对齐 层面具有里程碑意义的版本。

v2.8.0 不仅引入了多项关键特性更新,也在 Kubernetes 原生标准对齐、异构设备支持、生产可用性与可观测性 等方面进行了系统性增强,使 HAMi 更加适合在长期运行、对稳定性和演进路径敏感的 AI 生产集群中使用。

本文将对 v2.8.0 的主要更新进行详细说明。

CNCFHAMi 是 CNCF 孵化项目