Uber’s Journey to Ray on Kubernetes: Resource Management

Uber’ s Journey to Ray on Kubernetes: Resource Management

摘要

Uber在Kubernetes上运行Ray作业管理系统，通过弹性资源管理和自定义调度器优化资源利用。资源池按团队划分，支持动态共享和抢占，提升集群利用率。针对异构集群，开发GPU过滤插件，确保GPU和非GPU任务高效调度。特殊硬件请求通过SKU过滤机制精准匹配，避免资源浪费。这些改进显著提升了机器学习管道的效率和可靠性。