网易云课堂个性化推荐实践与思考

原创韩虹莹有道AI情报局

作者/ 韩虹莹

编辑/ Ein

从人和信息的博弈谈推荐系统缘起

首先谈谈我理解的推荐系统。

如果说推荐系统的定义是什么，每本书每篇文章说的都不太一样，协同过滤1992年就已经有了，三十年里无数大佬分析了个性化推荐的缘起和意义，世界已经不需要多一个人的见解。但是，当所有人都说一件事情是正确的时候，我们也要想清楚它为什么是正确的。

如果你问我推荐系统是什么，我会告诉你，是信息到人的精准分发。那么为什么在这个时代推荐系统才应运而生？古人不会需要信息精准分发，车马信息都很慢，古人学富五车不过现在一个书包的信息量；唯有现在人才需要信息精准分发，信息太多时间太少，乱花渐欲迷人眼，所以我们需要一个智能的系统，帮助你过来过滤信息，所以推荐系统是人和信息的桥梁。

当然，正如罗马不是一天建成的一样，在互联网上搭个桥也是要演进的，最开始是个小木桥——门户网站，用分类导航分发了信息；后来演化到了石板桥——搜索引擎，人可以更精准的找信息；逐步的信息太多了，要变成信息找人，在这个过程中，无论是信息的消费者，还是信息的生产者，都遇到了不曾预见的困难，信息消费者找不到信息了，信息生产者无法让自己的信息展现在消费者眼前，有痛点就有需求，有需求就有产品，于是推荐系统作为一个产品，恰到好处又必然的到来。凯文凯利在《必然》里，把这个趋势称为“过滤”：

进行过滤是必然的，因为我们在不停地制造新东西。而在我们将要制造的新东西中，首要的一点就是创造新的方式来过滤信息和个性化定制，以突显我们之间的差异。

人如何和信息相处，推荐系统既不是起点，恐怕也不会是终局，但它已经是当前人们对于处理信息所能做的最好的实践了。

推荐系统要如何满足需求

推荐系统应该单独作为一个产品来看，他是一个什么产品呢？作为一个加工信息的产品，它一定要满足信息供需两端的需求，才有价值。

所以作为一个推荐系统，要把自己定义在一个中间方的位置，可以说 C 端用户和产品经理都是你的用户，两端的需求都需要被满足，所以既需要你想技术方案，还需要你去想，你怎么更好的满足两端的需求，用户只需要你精准的帮他找到信息。而对于产品方，需要挖掘想通过推荐系统获得什么。

对于用户端（信息需求端），最迫切的需求是如何帮我精准的找到我需要的信息。

对于公司端（信息供应端），是为了满足一些商业化的需求，比如吸引用户，增强用户黏性，提高用户转化率，比如资讯平台，短视频平台，信息流平台希望提升用户活跃度，延长用户停留时间，电商平台希望提高用户购买转化率。

推荐系统常规架构

从上图来看，一个完整的推荐系统包括数据部分和模型部分，数据部分主要依赖大数据离线或在线处理平台，主要完成的工作包括数据的收集和 ETL 处理，生成推荐模型所需要的特征数据。

推荐系统模型部分是主体，这部分要在提供推荐模型服务之前，完成模型的训练，然后对输入数据进行处理，通过不同的召回或排序策略，生成最后的输出结果。一个常规的工业级推荐系统，在模型部分主要包括召回层，过滤层，排序层，也可根据业务需要判断是否需要补充策略与算法层。

1. "召回层"

一般利用高效的召回规则、算法或简单的模型，快速从海量的候选集中召回用户可能感兴趣的物品。

2. "过滤层"

一般根据特定场景业务需求，对召回的数据进行过滤。

3. "排序层"

利用排序模型对初筛的候选集进行精排序。

4. "补充策略与算法层"

也被称为"再排序层"，可以在将推荐列表返回用户之前，为兼顾结果的"多样性" "流行度" "新鲜度"等指标，结合一些补充的策略和算法对推荐列表进行一定的调整，最终形成用户可见的推荐列表。

推荐系统常见模型概述与比较

先来一个推荐算法发展的时间线：

可以从图中看出，2016年是推荐系统从传统机器学习模型到深度学习模型的转折点，这一年微软的 Deep Crossing ，谷歌的 Wide&Deep ，以及 FNN 、 PNN 等一大批优秀的深度学习推荐模型相继推出，继而逐渐成为推荐系统的主流。

但传统推荐模型仍然要被重视，第一，它们是深度学习的基础，很多东西都是一脉相承的，矩阵分解的隐向量思想在Embedding中继续发展，FM中的核心思想——特征交叉也在深度学习中继续使用，逻辑回归可以看做神经元的另一种表现形式。第二，这些算法的硬件要求低，结果可解释性强，训练容易，仍是大量场景所适用的。

●

机器学习推荐模型演化过程

●

协同过滤

协同过滤是推荐系统领域应用最广泛的模型了，而且大家一说到推荐系统，就会直接关联到协同过滤，而且是基于用户的协同过滤 or 基于物品的协同过滤，其实从某种程度上理解，矩阵分解也是协同过滤的一种，基于用户，商品的协同过滤属于基于近邻的协同过滤，从更大一点的范围来说，大多数机器学习和分类算法可以理解为协同过滤的一个分支，协同过滤可以看做是分类问题的泛化，正是因为这个原因，适用于分类的许多模型也可以通过泛化应用于协同过滤。

本节主要针对的，还是广泛意义上理解的，基于近邻的协同过滤，这类协同过滤，其实就是基于用户-用户，物品-物品的相似度计算。

2.1 基于用户协同过滤

当用户需要个性化推荐时，可以先找到与他相似其他用户（通过兴趣、爱好或行为习惯等，然后把那些用户喜欢的并且自己不知道的物品推荐给用户。

步骤：

2.1.1 准备用户向量，在该矩阵中，理论上每个用户得到一个向量。

2.1.2 向量维度是物品个数，向量是稀疏的，向量取值可以是简单的0或1。

2.1.3 用每个用户向量，两两计算用户之间相似度，设定一个相似度阈值，为每个用户保留与其最相似的用户。

2.1.4 为每个用户产生推荐结果。

2.2 基于物品协同过滤
基于物品的协同过滤算法简称，其简单应用情景是：当一个用户需要个性化推荐时，例如由于他之前购买过金庸的《射雕英雄传》这本书，所以会给他推荐《神雕侠侶》，因为其他用户很多都同时购买了这两本书。

步骤：

2.2.1 构建用户物品的关系矩阵，可以是购买行为，或购买后的评价，购买次数等

2.2.2 两两计算物品相似度，得到物品相似度矩阵。

2.2.3 产生推荐结果，典型的两种形式：①为某个物品推荐相关物品；②个人首页的“猜你喜欢”。

2.3 计算相似度的方式有如下几种：

2.3.1 余弦相似度，余弦相似度( Cosine Similarity )衡量了用户向量t和用户向量j之间的向量夹角大小。显然，夹角越小，证明余弦相似度越大，两个用户越相似。

2.3.2 皮尔逊相关系数，相比余弦相似度，皮尔逊相关系数通过使用用户平均分对各独立评分进行修正，减小了用户评分偏置的影响。

●

矩阵分解

关于矩阵分解，一种讲法把它划归为协同过滤，认为他是基于模型的协同过滤，另一种则认为他是协同过滤的进化，其实这个到影响不大，矩阵分解是在协同过滤的基础上，增加了隐向量的概念。

矩阵分解可以解决一些邻域模型无法解决的问题：①物品之间存在关联性，信息量不随向量维度线性增加；②矩阵元素稀疏，计算结果不稳定，增减一个向量，结果差异很大。

矩阵分解把User矩阵和Item矩阵作为未知量，用它们表示出每个用户对每个item的预测评分，然后通过最小化预测评分跟实际评分的差异，学习出User矩阵和Item矩阵。也就是说，图2中只有等号左边的矩阵是已知的，等号右边的User矩阵和Item矩阵都是未知量，由矩阵分解通过最小化预测评分跟实际评分的差异学出来的。

矩阵分解用到的用户行为数据分为显式数据和隐式数据两种。显式数据是指用户对item的显式打分，比如用户对电影、商品的评分，通常有5分制和10分制。隐式数据是指用户对item的浏览、点击、购买、收藏、点赞、评论、分享等数据，其特点是用户没有显式地给item打分，用户对item的感兴趣程度都体现在他对item的浏览、点击、购买、收藏、点赞、评论、分享等行为的强度上。我们当前主要是隐式数据。

目标函数通过最小化预测评分和实际评分ruirui 之间的残差平方和，来学习所有用户向量和物品向量。

3.1 显示矩阵目标函数

3.2 隐式矩阵目标函数

求解方法：矩阵分解的方法也不止一种，有奇异值分解，梯度下降，交替最小二乘，这里简单列举一个交替最小二乘的例子。

ALS（交替最小二乘法）：先固定X 优化Y ，然后固定Y 优化X ，这个过程不断重复，直到X 和Y 收敛为止。

这里举一个，显式矩阵中固定Y优化X的例子，另外固定X优化Y:

目标函数被拆解为多个独立目标函数，每个用户对应一个目标函数，用户u的目标函数为：
该目标函数转换为矩阵形式。
对目标函数J关于Xu求梯度，并令梯度为零。

●

逻辑回归→POLY2→FM→FFM

4.1 逻辑回归

首先逻辑回归的想法很巧妙，把推荐系统的推荐问题看做了一个分类问题，为什么可以这样说呢？

逻辑回归可以通过sigmoid 函数，将输入特征向量x=(x1,x2......xn)x=(x1,x2......xn)，映射到（0,1）区间，如下图所示：

逻辑回归有着很多优势：
1.数学含义上的支撑，逻辑回归的假设是因变量 y 服从 Bernoulli 分布，非常符合我们对于 CTR 模型的认识，相比之下线性回归模型假设 y 服从高斯分布，这与我们所理解的 CTR 预估模型（二分类问题）并不一致。
2.可解释性强，逻辑回归的简单数学形式也非常符合人类对预估过程的直觉认知
3.工程化简单，具有易于并行化，训练简单，训练开销小的特点。

但也有一些缺点：
1.表达能力不强，无法进行特征交叉、特征筛选等操作，所以会造成一些信息的损失

正是由于这个原因，后面出现了 POLY2 模型，FM 模型，FFM 模型，接下来我一起说明。

4.2 POLY2模型——特征的“暴力”组合

该模型对所有特征进行了两两交叉(特征 Xj1 和 Xjz），并对所有的特征组合赋予权重 Wh(j1,j2)，本质上还是一个线性模型:

4.3 FM——隐向量的特征交叉

FM与POLY2的主要区别是用两个向量的内积(Wj1,Wj2) 取代了单一的权重系数Wh(j1,j2)。

4.3.1 FM为每个特征学习了一个隐权重向量，特征交叉时，使用两个特征隐向量的内积作为交叉特征的权重。

4.3.2 引入隐向量的做法，与矩阵分解的思想异曲同工，是从单纯用户-物品扩展到了所有特征上。

4.3.3 把POLY2模型 n^2的权重参数减少到了nk。

FM这样做的优势在于，隐向量的引人使 FM 能更好地解决数据稀疏性的问题，泛化能力大大提高。在工程方面， FM 同样可以用梯度下降法进行学习，使其不失实时性和灵活性。

4.4 FFM——特征域

FFM 与 FM 的区别在于隐向量由原来的 Wj1 变成了 Wj1,f2，这意味着每个特征对应的不是唯一一个隐向量，而是一组隐向量，当特征 xj1 与特征 xj2 进行交叉时，xj1 会从 xj1 这一组隐向量中挑出与特征xj2的域f2对应的隐向量 Wj1,f2 进行交叉，同理， xj2 也会用与 xj1的域f1对应的隐向量进行交叉。

4.5 模型演化的形象化表示

4.5.1 POLY2模型

4.5.2 FM模型

4.5.3 FFM模型

●

传统机器学习算法比较

大厂如何玩转推荐系统

●

大厂实践比较

这里选取了几个比较典型的推荐系统实现，他们分别属于几种推荐系统的典型场景。

●

深度学习算法比较

针对几个大厂部分采用了一些深度学习的模型，这里也调研对比了深度学习模型的特点和优劣势。

云课堂的个性化推荐

●

特征工程

主要选用了用户行为数据，用户行为数据在推荐系统中有显性反馈行为和隐性反馈行为两种，在网易云课堂场景下，用户的评分属于显性行为，用户的购课、学习、做笔记等都属于隐性行为。对于这些行为，我们根据业务重要程度，都给出了初始分数，生成了用户-课程的初始评分矩阵。

评分矩阵简单表示如下：

●

算法选型

在个性化推荐系统搭建初期，由于我们是从0到1开始构建，所以并没有选择在初期选择复杂的深度学习算法，以及构建丰富的用户画像，希望在初期快速构建一个MVP版本上线，后续逐步反思优化迭代。

所以在算法选型上，我们从下面三种方案中进行评估选择：

基于标签匹配。
基于用户/行为的协同过滤。
基于矩阵分解的协同过滤。

那么我们是如何进行取舍的？

关于方案一，如果希望方案一取得较好的效果，关键点在于依赖标签体系的建设，只有标签体系足够完善，也就是说，推荐结果的好坏，是可预计的，强依赖于标签体系的建设的。

关于方案二，它的缺点在于处理稀疏矩阵的能力较弱，而云课堂中用户的学习行为并不能算是高频行为，同时头部效应明显，而我们希望的是通过个性化推荐系统，挖掘更多隐含的可能性，保留更多平台上更多平时没机会暴露的课程，显然基于近邻方式的协同过滤，不是一个很合适的选择。而基于矩阵分解的方法可以一定程度上增强稀疏矩阵的处理能力，同时引入隐向量，可以从用户行为中挖掘更多的可能性。

我们选用了基于ALS（交替最小二乘法）的矩阵分解模型作为第一个实践的算法，采用的是 Spark MLlib 提供的 API。

在 ALS 模型的构建过程中，需要调整如下几个参数以取得最好的效果：