腾讯Ray团队实践：K8s + Ray如何支撑超大规模AI Workload

腾讯 Ray 团队实践：K8s + Ray 如何支撑超大规模 AI Workload

摘要

大模型时代，AI基础设施转向K8s+Ray+PyTorch+vLLM的黄金组合。Ray以进程级调度解决异构资源、动态分配、高容错和Single-Controller等核心调度需求，与K8s协同实现从资源到任务的灵活编排，成为复杂AI工作负载的通用调度范式。