推荐系统重排策略

Tags

Top Highlights

• 重排模块是推荐系统最后一个模块（可能还会有混排），离用户最近。作为最后一层兜底，用户体验十分重要。主要包括打散、多样性等内容。曝光过滤有时候也会放在重排中，但本质上完全可以在召回链路，对已充分曝光的短视频，或者刚刚已经购买过的商品，进行过滤，从而防止用户抵触。

• 基于embedding的打散，泛化能力强，但容易出现bad case。目前主流方法仍然是基于规则的打散。

• 输入一个item有序序列，每个item有几个需要隔离开的属性，输出一个相似属性分离开的item序列。

• Count为同属性item已经出现的次数。f(x)即为打散加权分数，按照它从低到高对item进行排序，即可完成打散。这种方法实现也比较容易，而且可以充分考虑多种属性的叠加，扩展性也很强。但仍然容易出现末尾扎堆。

• 。精排输出的多个任务的分数，在重排阶段进行融合。可以基于人工调权、grid search、LTR或者强化学习。

• 。精排由于计算性能因素，目前是基于point-wise的单点打分，没有考虑上下文因素。但其实序列中item的前后其他item，都对最终是否点击和转化有很大影响。context-aware的实现方式有pairwise、listwise、generative等多种方式。

• 实时性提升。重排比精排模型轻量化很多，也可以只对精排的topK重排，因此较容易实现在线学习（目前有一些团队甚至实现了精排在线学习）。实时性提升对于快速捕捉用户实时兴趣十分重要，能大大提升模型准确率和用户体验。通过ODL在线学习，实现重排模型实时更新，可以提升整体链路实时性。

• 一般采用point-wise方式，并行对每个item进行打分。这就使得打分时缺少了上下文感知能力。用户最终是否会点击购买一个商品，除了和它自身有关外，和它周围其他的item也息息相关。重排一般比较轻量，可以加入上下文感知能力，提升推荐整体算法效率。

• 建模item序列整体信息，通过listwise损失函数来对比商品之间序列关系。可以通过DNN、RNN、self-attention等多种方式建模和提取item序列信息，再通过beam-search等贪婪搜索方法得到最终的序

• 这儿简单介绍下PRM，它构建了input layer、encoding layer、output layer三层，通过self-attention使得序列内item充分交互，提取序列信息，通过贪婪搜索得到最终序列

• 深度模型由于需要的训练数据和时间都比较大，资源消耗也比较多，故一般以离线训练为主。小时级或者天级更新。对于用户的实时行为pattern，或者冷启item都不是特别友好。特别在大促期间和秒杀场景，用户兴趣和需求转瞬即逝，商品也随时可能会被售空

• 保量类 ：通过流量扶持，刺激生态建设。比如对冷启item，新热item，大V的新发布item，均可以给予一定的保量流量，让他们能够顺利透出和正循环。保量的实时性也十分重要，作者能第一时间看到自己item得到的点赞、评论等，有利于刺激他们持续创作。保量常见的方法有： 规则引擎 ： 制订一定的策略规则，实现保量。 这种方法简单易行，item也肯定能获得一定流量。 但准确度较低，也较难实现个性化。 流量容易不够或者超发。 探索和利用 ： 通过e-greedy、Thompson sampling、UCB等EE类的方法，可以有效探索冷启item，同时利用已有item，保障效率折损最低。

• 流量调控在推荐系统中也十分重要，重排在最后一环，责无旁贷。流量调控要兼顾实时性和准确性，二者之间需要达到平衡。流量调控的作用和方式主要有： 保量类 ：通过流量扶持，刺激生态建设。比如对冷启item，新热item，大V的新发布item，均可以给予一定的保量流量，让他们能够顺利透出和正循环。保量的实时性也十分重要，作者能第一时间看到自己item得到的点赞、评论等，有利于刺激他们持续创作。保量常见的方法有： 规则引擎 ： 制订一定的策略规则，实现保量。 这种方法简单易行，item也肯定能获得一定流量。 但准确度较低，也较难实现个性化。 流量容易不够或者超发。 探索和利用 ： 通过e-greedy、Thompson sampling、UCB等EE类的方法，可以有效探索冷启item，同时利用已有item，保障效率折损最低。 调权类 ：一般是业务运营需求，需要快速实时干预。比如三八妇女节需要临时对美妆类item做加权，增加其流量。过了这一天可能效果就会大打折扣了。常见方法有： 规则引擎 ： 直接在重排结果上，对于命中属性规则的item，加入一定的分数，使得最后可以透出，增加其流量。 这种方法简单易行，实时性好。 但调权准确率低，也较难个性化，可能造成较大的流量浪费和效率折损。 适合某些 时效要求高的场景 。 比如大促期间加权等。 样本加权 ： 对于命中调权规则的样本，增加其在loss中的权重，迫使模型偏向于对它们精准预估。 这种方法可以实现个性化，对效率折损较低。 但由于需要训练模型并重新上线，故实时性不高。 适合某些 长期性的调权场景 。 比如对大店、大V的加权等。