Enabling Deep Model Explainability with Integrated Gradients at Uber

Enabling Deep Model Explainability with Integrated Gradients at Uber

摘要

Uber的机器学习平台Michelangelo通过集成梯度（IG）技术提升深度学习模型的可解释性。IG方法基于梯度计算，量化输入特征对模型输出的贡献，满足完整性和敏感性等理论特性。Uber在TensorFlow和PyTorch框架中实现了IG，支持大规模分布式计算，并集成到模型训练、评估和监控的全流程中。IG不仅帮助工程师调试模型，还为产品团队验证特征价值提供了有力工具。通过并行计算和优化，IG在Uber的ML生态中广泛应用，提升了模型透明度与信任度。