微信号 meituantech
功能介绍 10000+工程师,如何支撑中国领先的生活服务电子商务平台?数亿消费者、数百万商户、2000多个行业背后是哪些技术在支撑?这里是美团、大众点评、美团外卖、美团优选等技术团队对外交流的窗口。
总第470篇
2021年 第040篇
1 背景
2 CTR模型GPU推理的挑战
2.1 应用层的挑战
2.2 框架层的挑战
2.3 硬件层的挑战
3 优化手段
3.1 算子融合
3.2 CPU-GPU数据传输优化
3.3 高频子图手工优化
3.4 CPU-GPU分流
4 压测性能分析
5 整体架构
6 不足之处与未来规划
warp_shuffle
阅读更多
微信扫一扫关注该公众号