Foundation Model for Personalized Recommendation

Foundation Model for Personalized Recommendation

摘要

Netflix开发了一个基于大语言模型（LLM）范式的推荐基础模型，旨在通过集中学习用户偏好，提升推荐系统的效率和创新性。模型采用自回归的下一项预测目标，并结合稀疏注意力和滑动窗口采样技术处理大规模用户交互数据。通过整合元数据和增量训练，模型能够应对新内容冷启动问题。该模型支持多种下游应用，如直接预测、生成嵌入和微调，显著提升了推荐质量和系统可扩展性。