1.前言：召回排序流程策略算法简介

推荐可分为以下四个流程，分别是召回、粗排、精排以及重排：

1. 召回是源头，在某种意义上决定着整个推荐的天花板；

2. 粗排是初筛，一般不会上复杂模型；

3. 精排是整个推荐环节的重中之重，在特征和模型上都会做的比较复杂；

4. 重排，一般是做打散或满足业务运营的特定强插需求，同样不会使用复杂模型；

• 召回层：召回解决的是从海量候选 item 中召回千级别的 item 问题

• 统计类，热度，LBS；

• 协同过滤类，UserCF、ItemCF；

• U2T2I，如基于 user tag 召回；

• I2I 类，如 Embedding（Word2Vec、FastText），GraphEmbedding（Node2Vec、DeepWalk、EGES）；

• U2I 类，如 DSSM、YouTube DNN、Sentence Bert；

• 

• 模型类：模型类的模式是将用户和 item 分别映射到一个向量空间，然后用向量召回，这类有 itemcf，usercf，embedding（word2vec），Graph embedding（node2vec 等），DNN（如 DSSM 双塔召回，YouTubeDNN 等），RNN（预测下一个点击的 item 得到用户 emb 和 item emb）；向量检索可以用 Annoy（基于 LSH），Faiss（基于矢量量化）。此外还见过用逻辑回归搞个预估模型，把权重大的交叉特征拿出来构建索引做召回

• 排序策略，learning to rank 流程三大模式（pointwise、pairwise、listwise），主要是特征工程和 CTR 模型预估；

• 粗排层：本质上跟精排类似，只是特征和模型复杂度上会精简，此外也有将精排模型通过蒸馏得到简化版模型来做粗排

• 常见的特征挖掘（user、item、context，以及相互交叉）；

• 精排层：精排解决的是从千级别 item 到几十这个级别的问题

• CTR 预估：lr，gbdt，fm 及其变种（fm 是一个工程团队不太强又对算法精度有一定要求时比较好的选择），widedeep，deepfm，NCF 各种交叉，DIN，BERT，RNN

• 多目标：MOE，MMOE，MTL（多任务学习）

• 打分公式融合: 随机搜索，CEM（性价比比较高的方法），在线贝叶斯优化（高斯过程），带模型 CEM，强化学习等

• 

• 重排层：重排层解决的是展示列表总体最优，模型有 MMR，DPP，RNN 系列（参考阿里的 globalrerank 系列）

• 展示层：

• 推荐理由：统计规则、行为规则、抽取式（一般从评论和内容中抽取）、生成式；排序可以用汤普森采样（简单有效），融合到精排模型排等等

• 首图优选：CNN 抽特征，汤普森采样

• 探索与利用：随机策略（简单有效），汤普森采样，bandit，强化学习（Q-Learning、DQN）等

• 产品层：交互式推荐、分 tab、多种类型物料融合

2.召回算法简介

召回区分主路和旁路，主路的作用是个性化+向上管理，而旁路的作用是查缺补漏推荐系统的前几个操作可能就决定了整个系统的走向，在初期一定要三思而后行做自媒体，打广告，漏斗的入口有多大很重要。

召回这里稍微有些复杂，因为召回是多路的。首先我们要解释主路和旁路的差别，主路的意义和粗排类似，可以看作是一个入口更大，但模型更加简单的粗排。主路的意义是为粗排分担压力。但是旁路却不是这样的，旁路出现的时机往往是当主路存在某种机制上的问题，而单靠现在的这个模型很难解决的时候。举个例子，主路召回学的不错，但是它可能由于某种原因，特别讨厌影视剧片段这一类内容，导致了这类视频无法上升到粗排上。那这样的话整个系统推不出影视剧片段就是一个问题。从多路召回的角度来讲，我们可能需要单加一路专门召回影视剧的，并且规定：主路召回只能出 3000 个，这一路新加的固定出 500 个，两边合并起来进入到粗排中去。这个栗子，是出现旁路的一个动机。

2.1 召回路径介绍

推荐系统中的 i2i、u2i、u2i2i、u2u2i、u2tag2i，都是指推荐系统的召回路径。

• 第一种召回，是非个性化的。比如对于新用户，我们要确保用最高质量的视频把他们留住，那么我们可以划一个“精品池”出来，根据他们的某种热度排序，作为一路召回。做法就是新用户的每次请求我们都把这些精品池的内容当做结果送给粗排。这样的召回做起来最容易，用 sql 就可以搞定。

• 第二种召回，是 i2i，i 指的是 item，严格意义上应该叫 u2i2i。指的是用用户的历史 item，来找相似的 item。比如说我们把用户过去点过赞的视频拿出来，去找画面上，BGM 上，或者用户行为结构上相似的视频。等于说我们就认为用户还会喜欢看同样类型的视频。这种召回，既可以从内容上建立相似关系（利用深度学习），也可以用现在比较火的 graph 来构建关系。这种召回负担也比较小，图像上谁和谁相似完全可以离线计算，甚至都不会随着时间变化。

• 第三种召回是 u2i，即纯粹从 user 和 item 的关系出发。我们所说的双塔就是一个典型的 u2i。在用户请求过来的时候，计算出 user 的 embedding，然后去一个实现存好的 item embedding 的空间，寻找最相似的一批拿出来。由于要实时计算 user 特征，它的负担要大于前面两者，但这种召回个性化程度最高，实践中效果也是非常好的。

通过上图理解什么是召回路径：

• u、i、tag 是指图中的节点

• 2 是指图中的线(关系)

i2i：指从一个物品到达另外一个物品，item 到 item

• 应用：头条，在下方列出相似的、相关的文章；

• 算法：

• 内容相似，eg：文章的相似，取标题的关键字，内容相似

• 协同过滤

• 关联规则挖掘等

• 两个物品被同时看的可能性很大，当一个物品被查看，就给他推荐另一个物品

u2i：指从一个用户到达一个物品，user 到 item

• 一般指用户的直接行为，比如播放、点击、购买等；

• 用户查看了一个物品，就会再次给它推荐这个物品

• 结合 i2i 一起使用，就是用户查看以合物品，就会给他推荐另一个相似的物品，就是 u2i2i 路径；

u2i2i：从一个用户，通过一个物品，到达另一个物品

• 用户查看了一个耳机（u2i），找出和这个耳机相似或者相关的产品（i2i）并推荐给用户

• 对路径的使用，已经从一条线变成两条线

• 方法：就是把两种算法结合起来，先得到 u2i 的数据，再利用 i2i 的数据进行扩展，就可以从第一个节点，越过一个节点，到达第三个节点，实现推荐

• 中间的桥梁是 item

u2u2i：从一个用户，到达另一个用户，到达一个物品

• 先计算 u2u：两种方法

• 一是：取用户的性别、年龄、职业等人工属性的信息，计算相似性，得到 u2u；

• 一是：从行为数据中进行挖掘，比如看的内容和视频大部分很相似，就可以看作一类人；

• 也可以使用聚类的方法进行 u2u 计算

• u2u 一般用在社交里，比如微博、Facebook，推荐感兴趣的人

• userB 和 UserC 相似，如果 userB 查看了某个商品，就把这个商品推荐给 userC；

• 中间的桥梁是 user

u2tag2i：中间节点是 Tag 标签，而不是 u 或者 i

• 京东，豆瓣，物品的标签非常丰富、非常详细；比如统计一个用户历史查看过的书籍，就可以计算标签偏好的向量：标签+喜欢的强度。

• 用户就达到了 tag 的节点，而商品本身带有标签，这就可以互通，进行推荐

• 先算出用户的 tag 偏好，然后匹配 item 列表

• 这种方法的泛化性能比较好（推荐的内容不那么狭窄，比如喜欢科幻，那么会推荐科幻的所有内容）

• 今日头条就大量使用标签推荐

基于图的算法：u22i*

• 起始于 U，结束于 I，中间跨越很多的 U、很多的 I，可以在图中不停的游走

• 例如：PersonalRank，不限制一条还是两条线，在图中到处的游走，游走带着概率，可以达到很多的 item；但是相比前面一条、两条边的路径，性能不是很好

2.2 多路召回融合排序

2.2.1 多路召回

推荐服务一般有多个环节（召回、粗排序、精排序），一般会使用多个召回策略，互相弥补不足，效果更好。比如说：

• 实时召回- U2I2I，

• 几秒之内根据行为更新推荐列表。

• 用 U2I 得到你实时的行为对象列表，再根据 I2I 得到可能喜欢的其他的物品

• 这个是实时召回，剩下 3 个是提前算好的

• 基于内容 - U2Tag2I

• 先算好用户的偏好 tag，然后对 tag 计算相似度，获取可能感兴趣的 item

• 矩阵分解 - U2I

• 先算好 User 和 Item 的 tag 矩阵，然后叉乘，给每个 user 推荐 item

• 提前存储好进行推荐

• 聚类推荐 - U2U2I

• 根据用户信息对用户进行聚类，然后找到最相似的 user，推荐最相似 user 喜欢的物品；或者找到聚类中大家喜欢的物品，进行推荐

写程序时，每个策略之间毫不相关，所以：

1、一般可以编写并发多线程同时执行 2、每一种策略输出结果，都有一个顺序，但最后要的结果只有一个列表，这就需要融合排序

2.2.2 融合排序

多种召回策略的内容，取 TOPN 合并成一个新的列表。这个新的列表，可以直接返回给前端，进行展示；也可以发给精排，进行排序。

精排模型非常耗时，所以召回的内容，会经过粗排之后，把少量的数据给精排进行排序

几种多路召回结果融合的方法

举个例子：几种召回策略返回的列表（Item-id，权重）分别为：

融合策略：1、按顺序展示

• 比如说实时 > 购买数据召回 > 播放数据召回，则直接展示 A、B、C、D、E

2、平均法

• 分母为召回策略个数，分子为权重加和

• C 为（0.7+0.5+0.3）/3，B 为（0.8+0.6）/3

3、加权平均

• 比如三种策略自己指定权重为 0.4、0.3、0.3，则 B 的权重为（0.40.8 + 0.60.3 + 0*0.2）/ （0.4+0.3+0.2），这个方法有个问题就是，每个策略的权重是自己设置的，并不准确，所以，有动态加权法

4、动态加权法

• 计算 XYZ 三种召回策略的 CTR，作为每天更新的动态加权

• 只考虑了点击率，并不全面

• 每种召回源 CTR 计算方法：

• 展现日志-带召回源：X，Y，Z，X，Y，Z

• 点击日志-带召回源：点击 X

• 则每种召回的 CTR = 点击数/展现数

5、机器学习权重法

• 逻辑回归 LR 分类模型预先离线算好各种召回的权重，然后做加权召回

• 考虑更多的特征以及环境因素，会更准确

以上融合排序的方法，成本逐渐增大，效果依次变好，按照成本进行选择

3.推荐场景中召回模型的演化过程

3.1 传统方法：基于协同过滤

更多内容参考：https://blog.csdn.net/sinat_39620217/article/details/129119611

3.2 单 Embedding 向量召回

3.2.1 Youtube DNN 召回

3.2.2 双塔模型召回

3.2 多 Embedding 向量召回-用户多兴趣表达

3.2.1 Multi-Interest Network with Dynamic Routing 模型

3.3 Graph Embedding

3.3.1 阿里 Graph Embedding with Side information

传统的 graph embedding 过程如下图：

3.3.2 GraphSAGE：Inductive representation learning on large graphs

3.4 结合用户长期和短期兴趣建模

3.4.2 Next Item Recommendation with Self-Attention

更多内容参考：https://blog.csdn.net/sinat_39620217/article/details/129119611

3.5 TDM 深度树匹配召回

TDM 是为大规模推荐系统设计的、能够承载任意先进模型 ( 也就是可以通过任何深度学习推荐模型来训练树 ) 来高效检索用户兴趣的推荐算法解决方案。TDM 基于树结构，提出了一套对用户兴趣度量进行层次化建模与检索的方法论，使得系统能直接利高级深度学习模型在全库范围内检索用户兴趣。其基本原理是使用树结构对全库 item 进行索引，然后训练深度模型以支持树上的逐层检索，从而将大规模推荐中全库检索的复杂度由 O(n) ( n 为所有 item 的量级 ) 下降至 O(log n)。

3.5.1 树结构

3.5.2 怎么基于树来实现高效的检索？

3.5.3 兴趣建模

4.当前业界的主流召回算法综述

4.1 Youtube DNN

当前的主流方法的通用思路就是对于 use 和 item 的 embedding 的学习, 这也被称为表示学习; YoutbeDNN 是经典的将深度学习模型引入推荐系统中，可以看到网络模型并不复杂，但是文中有很多工程上的技巧，比如说 word2vec 对 video 和 search token 做 embedding 后做为 video 初始 embedding，对模型训练中训练时间和采集日志时间之间“position bias”的处理，以及对大规模多分类问题的负采样 softmax。

4.2 DeepMF

4.3 DSSM

更多内容参考：https://blog.csdn.net/sinat_39620217/article/details/129119611

4.4.Item2vec

4.5.Airbnb Embedding

4.6.DeepWalk

4.7 Node2Vec

4.8.EGES

4.9.LINE

更多内容参考：https://blog.csdn.net/sinat_39620217/article/details/129119611

4.10.SDNE

4.11.GraphSAGE

4.12 MIND

4.13.SDM

4.14.DeepFM

4.15.NCF

4.16.TDM

更多内容参考：https://blog.csdn.net/sinat_39620217/article/details/129119611

参考推荐：

关于图相关学习推荐参考

更多内容参考：https://blog.csdn.net/sinat_39620217/article/details/129119611

图学习项目合集&数据集分享&技术归纳业务落地技巧[系列十]

更多内容参考：https://blog.csdn.net/sinat_39620217/article/details/129119611