知鸦日报2026-01-16

大语言模型为电商推荐带来新突破。淘宝“首页猜你喜欢”引入生成式召回ALGR，通过语义ID+LLM技术，显著提升推荐效率和用户体验。ALGR采用近线构造和实时训练，优化特征Prompt、NSP建模和Scaling Law，实现离线Hitrate提升60%。性能优化方面，lm_head矩阵运算和动态宽度BeamSearch大幅减少训练显存和时间，推理性能提升500%~600%。ALGR全流量上线后，ipv和成交笔数分别增长0.44%和0.88%，为未来迭代奠定基础。