从 Bert 到 LLM：360 广告推荐业务中语言模型的应用探索

从 Bert 到 LLM：360 广告推荐业务中语言模型的应用探索

摘要

360 广告推荐业务中从 BERT 到 LLM 的语言模型应用探索，主要侧重工业界实际业务场景使用的角度，讨论语言模型在推荐系统的发展和应用。本次分享分为四部分：第一部分介绍 360 广告推荐业务的背景及为何使用语言模型的需求。第二部分分析语言模型在推荐系统中各算法的适用场景。第三部分介绍我们在广告业务场景中从 2021 年起的一系列语言模型应用实践。第四部分为总结和展望。