为什么 AI 工作负载在排队而 GPU 看似闲置：Kubernetes GPU 分配问题解析
中文摘要
本文解析了 GPU 闲置时 AI 任务仍排队的原因：利用率不代表容量可用，且 Kubernetes 独占分配、内存占用及放置约束会造成排队。
English Summary
AI workloads queue despite idle GPUs because utilization doesn't reflect capacity. Key causes include Kubernetes' exclusive allocation, memory usage, and placement constraints.
Original Excerpt
文章解释 AI 工作负载在 GPU 看似闲置时仍排队的原因：利用率指标只反映计算活动，不代表容量可用。Kubernetes 默认独占分配整块 GPU，此外内存占用、放置约束和应用层瓶颈也会造成排队。