Control Plane - 标签 - 探索云原生https://www.lixueduan.com/tags/control-plane/探索云原生（微信公众号：探索云原生）,是意琦行的技术博客。一个云原生打工人的探索之路。从容器与编排出发，目前主要折腾云原生 AI 基础设施：GPU 资源化、编排调度、模型服务与可观测性。分享踩坑实录和实践经验。Hugo 0.149.0 & FixIt v0.4.0-alpha-20250831070510-5a66a050zh-CNxueduan.li@gmail.com (意琦行)xueduan.li@gmail.com (意琦行)Sat, 01 Aug 2026 20:00:00 +0000KServe 工作流程：从 InferenceService 到 vLLM 服务https://www.lixueduan.com/posts/ai/23-kserve-p2-architecture/Sat, 01 Aug 2026 20:00:00 +0000xueduan.li@gmail.com (意琦行)https://www.lixueduan.com/posts/ai/23-kserve-p2-architecture/AI<p><img loading="lazy" src='https://img.lixueduan.com/ai/cover/kserve-p2-architecture.jpg' alt="KServe 工作流程：从 InferenceService 到 vLLM 服务"></p> <p>上一篇完成了 KServe 的安装，并通过 InferenceService 跑通了一个 Qwen 模型服务。</p> <p>当时提交的 InferenceService 只包含模型格式、存储地址、GPU 资源和启动参数，KServe 却创建出了 Deployment、Service 和 HTTPRoute。这份 YAML 中没有容器镜像，那么 KServe 如何选中 HuggingFaceServer，Pod 中又为什么会运行 vLLM？</p> <p>这一篇先看 KServe 的整体架构和核心 CRD，再结合上一篇的 <code>qwen-llm</code>，梳理从提交 InferenceService 到请求进入 vLLM 的完整流程。</p> <blockquote> <p>以下内容基于 KServe 0.18，部署模式为 Standard。</p></blockquote>