协同过滤
- 提出者
- GroupLens; Sarwar et al. (item-based); Koren et al. (matrix factorization)
- 年份
- 2001
- 类型
- Recommendation from user-item interactions
- 类别
- Recommender systems
本文为机器翻译,尚未经过审校。 阅读英文原文
它有什么作用?
协同过滤通过利用众多用户的偏好来向用户推荐物品——“喜欢你所喜欢的人也喜欢这个”。它从稀疏的用户-物品交互矩阵中学习,方法是找到相似的用户或物品(邻域方法,由 Sarwar 等人在 2001 年形式化)或将矩阵分解为潜在的用户和物品因子(矩阵分解,在 Netflix 大奖赛后由 Koren 等人推广)。
方法背后的直觉
你不需要了解物品的任何内容信息就可以推荐它——只需要了解人们如何与之互动。协同过滤利用了一个巨大的、大部分为空的用户对物品的表格中的模式:如果两个用户对许多电影的评价相似,那么一个用户未见过的喜爱的电影很可能也是另一个用户的喜爱的(基于用户的);如果两个物品在用户中的评价相似,那么喜欢一个物品可以预测对另一个物品的喜欢(基于物品的)。矩阵分解更进一步,将每个评分解释为用户的简短“品味”向量和物品的“画像”向量的点积,并通过学习来重构已知评分并预测缺失的评分。
历史学
协同过滤起源于 1990 年代的 GroupLens 项目和 Tapestry。Sarwar、Karypis、Konstan 和 Riedl(2001 年)形式化了可扩展的基于物品的协同过滤,而 2006-2009 年的 Netflix 大奖赛激发了潜在因子矩阵分解方法,Koren、Bell 和 Volinsky 在其有影响力的 2009 年文章中进行了总结。此后,该领域已扩展到隐式反馈、混合内容-协同模型和深度学习推荐系统,但邻域和矩阵分解协同过滤仍然是基础技术。
何时使用
使用协同过滤,仅凭交互数据即可构建推荐系统——适用于电子商务、流媒体、新闻和内容平台——当你拥有足够多的用户和交互来揭示共同的模式,并且不想依赖物品内容时。邻域方法简单且可解释(“因为你喜欢 X”);矩阵分解的扩展性更好,能处理稀疏性,并且通常预测更准确。主要局限性:冷启动问题(没有交互的新用户/物品无法被定位)、稀疏性和流行度偏差,以及需要大量的交互数据。纯粹的协同过滤忽略了物品/用户属性,因此经常与内容特征结合成混合推荐系统;隐式反馈和深度学习推荐系统扩展了相同的思想。它与矩阵补全和 NMF 密切相关。
局限与注意事项
- 冷启动:无法为没有交互的新用户或物品进行推荐。
- 对稀疏性敏感,并且偏向于流行物品。
- 忽略物品/用户属性(内容),不像混合方法那样。
- 需要大量的交互数据才能良好工作。
来源中的条件不能替代独立的科学审查或分析引擎的验证。
优势
- 仅需要交互数据——无需物品内容或特征工程。
- 从人群中捕获微妙的、难以言喻的品味模式。
- 矩阵分解可以扩展到大型稀疏矩阵并准确预测。
- 邻域方法提供可解释的“因为你喜欢……”的解释。
应用
- 电子商务中的产品推荐。
- 流媒体平台上的电影、音乐和视频推荐。
- 新闻和内容个性化。
- 社交网络中的好友/连接建议。
- 交叉销售和“顾客还买了”功能。
使用方式
使用方式
输入是用户-物品评分或隐式交互(点击、购买)的矩阵。它非常稀疏——大多数条目是未知的——任务是预测缺失的条目(用户将如何评价/喜欢一个未见过的物品),以便可以推荐排名靠前的预测。
公式
R \in \mathbb{R}^{u\times i}\ \text{(ratings/interactions, mostly missing)}邻域方法根据用户(或物品)之间重叠的评分计算相似度,通常使用余弦相似度或皮尔逊相关系数。高相似度意味着两个用户品味相似,或者两个物品吸引了相同的受众;这些相似度驱动了预测。
公式
\text{sim}(a,b) = \dfrac{\sum_k r_{ak} r_{bk}}{\sqrt{\sum r_{ak}^2}\sqrt{\sum r_{bk}^2}}\ (\text{cosine / Pearson})基于物品的协同过滤将用户对某个物品的评分预测为该用户对相似物品的评分的相似度加权平均值(基于用户的做法对相似用户执行类似操作)。基于物品的方法通常在大规模应用中更受欢迎,因为物品-物品相似度更稳定且可以预先计算。
公式
\hat r_{ui} = \dfrac{\sum_{j\in N(i)} \text{sim}(i,j)\, r_{uj}}{\sum_{j\in N(i)} |\text{sim}(i,j)|}潜在因子模型将评分矩阵分解为低秩的用户和物品矩阵,因此每个评分都由用户因子向量和物品因子向量的点积近似。这些因子通过最小化观察到的评分上的正则化平方误差(通过 SGD 或交替最小二乘法)来学习,它们捕获了品味的隐藏维度,泛化能力更好,并且能很好地处理稀疏性。
公式
\hat r_{ui} = p_u^\top q_i,\quad \min_{P,Q}\sum_{(u,i)\in\mathcal{K}} (r_{ui}-p_u^\top q_i)^2 + \lambda(\lVert p_u\rVert^2+\lVert q_i\rVert^2)常见陷阱
- 在部署中忽略冷启动问题(新物品得不到曝光)。
- 仅基于评分误差进行评估,而忽略了排名/Top-N 和流行度偏差。
- 在大规模应用中使用基于用户的协同过滤,而基于物品或矩阵分解的方法效率远高于此。
- 在划分数据时泄露未来的交互信息到训练集中(必须按时间划分)。
常见问题
基于用户的协同过滤与基于物品的协同过滤有什么区别?
基于用户的协同过滤推荐相似用户喜欢的物品;基于物品的协同过滤推荐与你已喜欢的物品相似的物品(在用户评价它们的方式上)。基于物品的方法通常在大规模应用中更受欢迎,因为物品-物品相似度随时间更稳定,并且可以离线预先计算。
矩阵分解如何改进邻域方法?
它通过从数据中学习到的简短潜在因子向量来表示用户和物品,因此每个评分都是它们的点积。这捕获了隐藏的品味维度,更好地处理了稀疏性,超越了直接邻居的泛化能力,并且通常预测更准确——这就是它在 Netflix 大奖赛解决方案中占主导地位的原因。
什么是冷启动问题?
协同过滤依赖于过去的交互,因此它无法为全新的用户或没有交互的物品做出好的推荐。补救措施包括询问初始偏好、回退到流行度,或与不需要交互历史的内容型特征进行混合。
相关方法
参考文献
Sarwar, B., Karypis, G., Konstan, J., & Riedl, J. (2001). Item-based collaborative filtering recommendation algorithms. Proceedings of the 10th International Conference on World Wide Web, 285–295.
打开 DOI 文献已复制。Koren, Y., Bell, R., & Volinsky, C. (2009). Matrix factorization techniques for recommender systems. Computer, 42(8), 30–37.
打开 DOI 文献已复制。