VGPU - 标签 - 探索云原生

Kueue + HAMi vGPU 实战：显存与算力配额管理

xueduan.li@gmail.com (意琦行) — Tue, 14 Jul 2026 22:00:00 +0000

上一篇我们用 Kueue + NVIDIA 原生 DRA 跑通了 GPU 整卡配额：Job 先进入队列，Kueue 判断配额够不够，够了再放行给调度器。

但整卡只是第一步。真实的 GPU 集群里，一张 GPU 往往不会只给一个 Pod 用，HAMi 可以继续按显存和算力切成 vGPU。问题也跟着来了：切完之后，队列系统还能不能知道每个任务用了多少？能不能做到两个任务放行、第三个因为显存或算力配额不够继续排队？

这篇就围绕这个问题跑一遍：HAMi 把 GPU 切给 Pod，Kueue 在 Job 准入阶段先把 vGPU、显存和算力配额算清楚。重点不是“能不能切卡”，而是“切完之后还能不能管起来”。

Kubernetes GPU 虚拟化实战：HAMi DRA 模式完整指南

xueduan.li@gmail.com (意琦行) — Thu, 14 May 2026 12:00:00 +0000

HAMi 是目前 Kubernetes 上最活跃的开源 vGPU 方案，能够将一块物理 GPU 按显存和算力细粒度地切分为多个虚拟 GPU，供不同 Pod 共享。

本文聚焦 HAMi DRA 模式的部署与使用：安装 HAMi DRA 驱动后，分别用原生模式和兼容模式提交 Pod，验证 GPU 切分是否生效。

Volcano vGPU实战：无硬件依赖的Kubernetes GPU共享与隔离方案

xueduan.li@gmail.com (意琦行) — Tue, 19 Aug 2025 22:00:00 +0000

在上一篇《Volcano初探：批处理调度引擎的云原生实践》中，我们通过Helm快速部署了Volcano集群，并成功运行了首个测试任务，验证了其基础调度能力。本文将进一步探索Volcano的GPU虚拟化功能，聚焦如何通过HAMi vGPU 技术实现GPU资源的细粒度共享与硬隔离。

HAMi 异构设备虚拟化之海光 DCU 实战：K8s 下的 vDCU 资源调度与纳管

xueduan.li@gmail.com (意琦行) — Wed, 28 May 2025 22:00:00 +0000

之前通过一系列文章分析了 HAMI vGPU 部署使用以及背后的实现原理，本文则是分析海光 DCU 设备如何通过 HAMi 完成虚拟化，实现统一纳管与调度。

精准而优雅：HAMi 调度特性之按 GPU 类型和 UUID 调度

xueduan.li@gmail.com (意琦行) — Wed, 05 Mar 2025 22:00:00 +0000

上一篇我们简单分析一下 HAMi-Core(libvgpu.so) vCUDA 的工作原理，包括怎么生效的，CUDA API 怎么拦截的，以及是怎么实现的对 GPU 的 core、memory 资源的 limit 的。

这一篇我们分析一下 HAMi 的调度特性：根据 GPU 类型甚至 UUID 实现精细调度。

HAMi v2.5.0 Released，新特性一览

xueduan.li@gmail.com (意琦行) — Sun, 09 Feb 2025 22:00:00 +0000

HAMi v2.5.0 发布啦，新增了动态 MIG 支持的同时稳定性、易用性都有较大提升，快来看看吧~

HAMi vGPU 原理分析 Part5：HAMi-core(libvgpu.so) vCUDA 工作原理分析

xueduan.li@gmail.com (意琦行) — Wed, 08 Jan 2025 22:00:00 +0000

上篇我们分析了 hami-scheduler 中 Spread、Binpack 等高级调度策略是怎么实现的。

本文为 HAMi 原理分析的第五篇，简单分析一下 HAMi-Core(libvgpu.so) vCUDA 的工作原理，包括怎么生效的，CUDA API 怎么拦截的，以及是怎么实现的对 GPU 的 core、memory 资源的 limit 的。

HAMi vGPU 原理分析 Part4：Spread&Binpack 高级调度策略实现

xueduan.li@gmail.com (意琦行) — Tue, 10 Dec 2024 22:00:00 +0000

上篇我们分析了 hami-scheduler 工作流程，知道了 hami-webhook、hami-scheduler 是怎么配合工作的。

本文为 HAMi 原理分析的第四篇，分析 hami-scheduler 在调度时是如何选择节点的，即：Spread、Binpack 等高级调度策略是怎么实现的。

HAMi vGPU 原理分析 Part3：hami-scheduler 工作流程分析

xueduan.li@gmail.com (意琦行) — Tue, 26 Nov 2024 22:00:00 +0000

上篇我们分析了 hami-webhook，该 Webhook 将申请了 vGPU 资源的 Pod 的调度器修改为 hami-scheduler，后续使用 hami-scheduler 进行调度。

本文为 HAMi 原理分析的第三篇，分析 hami-scheduler 工作流程。

HAMi vGPU 原理分析 Part2：hami-webhook 原理分析

xueduan.li@gmail.com (意琦行) — Wed, 20 Nov 2024 22:00:00 +0000

上篇我们分析了 hami-device-plugin-nvidia，知道了 HAMi 的 NVIDIA device plugin 工作原理。

HAMi vGPU 原理分析 Part1：hami-device-plugin-nvidia 实现

本文为 HAMi 原理分析的第二篇，分析 hami-scheduler 实现原理。

HAMi vGPU 原理分析 Part1：hami-device-plugin-nvidia 实现

xueduan.li@gmail.com (意琦行) — Tue, 05 Nov 2024 22:00:00 +0000

本文为开源的 vGPU 方案 HAMi 实现原理分析第一篇，主要分析 hami-device-plugin-nvidia 实现原理。

开源 vGPU 方案 HAMi: core&memory 隔离测试

xueduan.li@gmail.com (意琦行) — Mon, 28 Oct 2024 22:00:00 +0000

本文主要对开源的 vGPU 方案 HAMi 的 GPU Core&Memory 隔离功能进行测试。

开源 vGPU 方案：HAMi,实现细粒度 GPU 切分

xueduan.li@gmail.com (意琦行) — Wed, 09 Oct 2024 22:00:00 +0000

本文主要分享一个开源的 GPU 虚拟化方案：HAMi，包括如何安装、配置以及使用。
相比于上一篇分享的 TimeSlicing 方案，HAMi 除了 GPU 共享之外还可以实现 GPU core、memory 的限制，保证共享同一 GPU 的各个 Pod 都能拿到足够的资源。

一文搞懂 GPU 共享方案： NVIDIA Time Slicing

xueduan.li@gmail.com (意琦行) — Tue, 24 Sep 2024 22:00:00 +0000

本文主要分享 GPU 共享方案，包括如何安装、配置以及使用，最后通过分析源码了 TimeSlicing 的具体实现。通过配置 TimeSlicing 可以实现 Pod 共享一块物理 GPU，以提升资源利用率。