HAMi vGPU 原理分析 Part5：HAMi-core(libvgpu.so) vCUDA 工作原理分析

xueduan.li@gmail.com (意琦行) — Wed, 08 Jan 2025 22:00:00 +0000

上篇我们分析了 hami-scheduler 中 Spread、Binpack 等高级调度策略是怎么实现的。

本文为 HAMi 原理分析的第五篇，简单分析一下 HAMi-Core(libvgpu.so) vCUDA 的工作原理，包括怎么生效的，CUDA API 怎么拦截的，以及是怎么实现的对 GPU 的 core、memory 资源的 limit 的。

开源 vGPU 方案：HAMi,实现细粒度 GPU 切分

xueduan.li@gmail.com (意琦行) — Wed, 09 Oct 2024 22:00:00 +0000

本文主要分享一个开源的 GPU 虚拟化方案：HAMi，包括如何安装、配置以及使用。
相比于上一篇分享的 TimeSlicing 方案，HAMi 除了 GPU 共享之外还可以实现 GPU core、memory 的限制，保证共享同一 GPU 的各个 Pod 都能拿到足够的资源。