Uber在2024年完成了从Apache Mesos到Kubernetes的容器编排平台迁移，主要基于Kubernetes的行业标准地位和社区活跃度。迁移过程中，Uber克服了大规模集群管理、API负载调度等挑战，优化了性能并实现了自动化迁移。通过自定义组件和工具，确保了开发体验的无缝过渡，最终成功将所有无状态服务迁移至Kubernetes，为未来技术演进奠定了基础。

Uber采用GenAI技术优化发票处理，通过ML和NLP自动化流程，减少人工干预和错误。系统支持多语言、多格式发票，提升准确性和效率。借助TextSense平台，Uber实现了模块化、可扩展的文档处理架构。GenAI解决方案使发票处理时间减少70%，准确率达90%，显著降低运营成本，为财务操作设立了新标准。

Uber在Kubernetes上运行Ray作业管理系统，通过弹性资源管理和自定义调度器优化资源利用。资源池按团队划分，支持动态共享和抢占，提升集群利用率。针对异构集群，开发GPU过滤插件，确保GPU和非GPU任务高效调度。特殊硬件请求通过SKU过滤机制精准匹配，避免资源浪费。这些改进显著提升了机器学习管道的效率和可靠性。

Uber将机器学习工作负载迁移至Kubernetes，解决了资源管理复杂、利用率低和容量规划不灵活等问题。通过构建联邦资源管理架构，抽象化底层基础设施，实现自动化资源分配和优化。新架构显著提升了训练速度，并提高了GPU资源的利用率，最终在2024年初完成所有项目的迁移。

在CRM领域，优化邮件和推送通知对提升用户参与度至关重要。Uber采用上下文多臂老虎机方法，动态调整邮件内容，结合用户偏好和上下文特征，通过GPT嵌入和XGBoost模型预测最佳邮件变体，提升打开率。相比传统A/B测试，该方法能快速收敛，适应动态环境，显著提高个性化沟通效果，增强用户互动。

Profile-guided optimization (PGO) 通过运行时数据指导编译器优化，提升代码性能。Uber 将 PGO 集成到持续优化框架中，通过日常数据收集、服务注册、CI 测试和部署，显著减少了资源消耗。针对编译时间增加的挑战，Uber 开发了预处理工具，大幅缩短了编译时间。PGO 在 Go 语言中的支持从 v1.20 开始，通过优化如函数内联和代码布局，实现了 4% 的性能提升，减少了 24,000 个 CPU 核心的使用。

Uber在x86架构基础上成功引入Arm架构，通过调整代码库、更新容器镜像和优化构建工具链，逐步将5000多项服务迁移至Arm主机。采用分层、分区的策略，先在非生产环境测试，再逐步推广到生产环境，确保服务稳定性和性能。最终，2800多项无状态Go服务成功迁移，20%的Oracle云基础设施从x86转向Arm，提升了性价比并降低了碳足迹。未来将进一步扩展至Java服务和有状态工作负载。

Uber在2023年启动了一项战略迁移，将本地数据中心转移到Oracle和Google云平台，同时引入Arm架构主机以降低成本、提升性能并增强硬件灵活性。迁移过程中，Uber克服了从主机兼容性到构建多架构容器镜像的技术挑战，逐步将服务迁移至Arm环境。这一举措不仅优化了能源效率，还为未来的硬件多样性奠定了基础。

Uber的MySQL数据库系统是其数据基础设施的核心,管理着2300多个独立集群,确保高可用性和数据无丢失。通过控制平面的重新设计,实现了从99.9%到99.99%的可用性提升。关键功能包括集群管理、主节点故障切换、节点生命周期管理和数据库操作。自动化流程如节点替换和架构变更,确保了系统的灵活性和稳定性。使用Cadence驱动的工作流提升了操作效率,提供了可靠的MySQL平台支持Uber的多种服务需求。

Computational efficiency is a significant challenge when scaling solutions to a marketplace as large and as complex as Uber. The running and tuning of the Uber rides business relies on substantial…

Apache Pinot™ is a real-time OLAP database capable of ingesting data from real-time streams and offline data sources. Uber has used Pinot for over 6 years, and in that time we’ve seen a rapid increase…

A well-crafted prompt is essential for obtaining accurate and relevant outputs from LLMs (Large Language Models). Prompt design enables users new to machine learning to control model output with…

In a previous post, we introduced Uber’s stateful platform, Odin. We discussed how the platform’s scale and the growing need for fleet-wide operations required better coordination among its many…

Uber started as a ridesharing company with a simple yet ambitious mission: make transportation as reliable as running water, everywhere, for everyone. When the company focused on ridesharing, most…

Presto® is an open-source, distributed SQL query engine designed for running interactive analytic queries on data sources of any size, from gigabytes to petabytes. At Uber, Presto is a critical engine…

Apache Pinot™ was originally designed as an append-only OLAP (online analytical processing) database. After some redesign, it was modified to support upserts, which are UPdates plus inSERTs. This…