将因果关系估计引入保举系统、晋升保举模型效果，快手新研究被WWW22接收

基于机器学习的保举系统逐渐成为帮助人们自动过滤信息、发掘兴趣的主要方式。现有模型通常运用 embedding 来表示保举系统中丰富的信息，比如东西、用户和上下文信息。从因果分析的角度来看，这些向量和用户最终的反馈（比如点击、点赞、转发等）之间的关系是由因果关系和非因果关系混杂在一起组成的。因果关系是反应东西被用户偏好的原因，非因果关系仅仅反运用户和东西之间的统计依赖关系，比如曝光模式、公众观念、展示位置等。然而现有保举算法大部分都忽略了因果关系和非因果关系之间的不同之处。在这篇文章中，快手和人大的研究者提出了一个模型无关的因果学习框架，该框架被称作 IV4Rec，用来有效地分离出这两种关系，从而加强保举模型的效果。更确切地说，研究者结合考虑了搜刮场景和保举场景下的用户举动。通过借鉴因果推断中的概念，他们将用户的搜刮举动作为东西变量（Instrumental variables, IVs），来帮助分解原本保举中 embedding，即 treatments。然后运用深度神经网络将分离的两个部分结合起来，用结合后的结果来完成保举任务。

论文链接：https://arxiv.org/abs/2202.04514

IV4Rec 是一个模型无关的框架，它可以运用到众多保举模型中，比如 NRHUB 和 DIN。在公开数据集 MIND 和快手短视频数据集上的实验结果表明，IV4Rec 可以有效地晋升保举模型的效果，该技术已经申请中国发明专利。一、背景和动机现实生活中，搜刮和保举已经成为帮助用户在互联网上获取信息的两种主要方式。传统的情况下，保举模型和搜刮模型会被部署成为两个不同的系统，服务于不同用户的不同信息需求。但近些年来，许多线上内容平台在同一个平台上同时提供搜刮和保举服务。当有了多种用户举动后，这两种服务可以通过它们共同的用户和东西子集联系起来。这种现象给我们提供了一个机会：用一种服务的数据去晋升另一种服务的效果。

图表 1：同一个平台中的搜刮和保举服务现有的工作已经意识到搜刮和保举可以结合进行优化。Garcia-Molina 等人指出搜刮和保举是一个硬币的不同两面（two sides of the same coin）。这两种服务有许多相似和联系。近来有一些工作致力于同时优化搜刮和保举模型从而同时晋升它们的准确度，比如结合建模和优化搜刮与保举（JSR）。一个叫做 USER 的算法结合探索和利用搜刮和保举举动，并同时发掘用户在这两种场景下的兴趣。除此之外还有不少工作在运用一种服务的数据来辅助另一种服务的模型，比如 ZSL-TE 是一个运用 zero-shot 的将保举系统中知识迁移到搜刮模型中的迁移学习框架。然而，现有的搜刮保举结合框架，都没有考虑到用户的搜刮举动和保举场景下的欣赏举动之间的因果关系。现有的保举系统模型通常是运用用户和系统的历史交互数据进行训练，并且假定每一条日志数据 (u, i, c) 都能够无偏地反应出 user u 对于 item i 的的偏好。但在现实世界中，用户与系统的交互数据通常是被需要混淆因素（confounder）影响，比如 position bias、selection bias 和 popularity bias 等等。从因果推断的角度来说，我们将 user 和 item 的 embedding 当作 treatment（简称 T），将用户的反馈（比如：click）看作 outcome（简称 Y）。因为 confounder 的存在，treatment 到 outcome 之间的关系既有因果的部分也有非因果的部分。

图表 2：因果视角下的保举场景因为 confounder（B）的存在，T 到 Y 之间有两条路径，红色的线表示受到 confounder 影响的非因果关系，蓝色的表示用户和东西之间匹配程度的因果关系。因果和非因果的部分反应的是 user-item pair（T）和用户反馈（Y）之间的不同关系。由于 confounder 的种类是多种多样的，很多时候它们也是一起发生的，仅仅通过保举模型里的训练数据是很难有效识别出非因果关系的。因此，研究者认为：

现有搜刮保举结合的模型与方法并没有从深层次发掘和利用搜刮举动与保举模型之间的因果关系；

现有保举模型普遍没有考虑到训练过程中产生的各种 bias，多种 bias 组成的 confounder 会影响模型的训练。

因此，他们提出了一个因果学习框架，运用东西变量（instrumental variable）方法利用搜刮数据辅助保举模型。首先 T 被分解为 causal 和 non-causal 的部分，再将这两个部分重构成为新的 T，作为保举模型的输入。二、方法介绍针对这些挑战，研究者提出了一种基于因果推断中东西变量方法、运用搜刮数据辅助保举模型的框架 – IV4REC（Instrumental Variables for Recommendation）。该方法运用用户的搜刮 query 作为东西变量（IVs），来分解和重构保举系统中的 embedding。具体来说，该方法主要分为三个部分：A. 构造 treatment （T）和 Instrumental Variables （IVs），B. 重构 treatment，C. 将重构的 treatment 运用到保举模型初步知识：东西变量东西变量是一种用来估计因果关系的方法，在经济学、流行病学等领域得到了广泛的运用，是 2021 年诺贝尔经济学奖得主的主要贡献之一。下图为东西变量的运用场景，图 3 为所有变量之间的因果关系。研究者想探究 T 和 Y 之间的因果关系，但是其受到 confounder U 的影响，而东西变量 Z 是一个和 U 无关，但和 T 有关，并仅通过 T 影响 Y 的变量。

图表 3：所有变量间的因果关系图 4 为东西变量运用的过程：先用 Z 回归 T 得到，再用回归 Y，回归 Y 得到的关系就可以认为是 T 和 Y 之间的因果关系。

图表 4：东西变量干预后的因果关系A. 构造 treatment对于保举场景来说，研究者认为交互数据中的 use-item pair 是 treatment。对于序列保举来说，user embedding 是通过 user 的欣赏历史的到的，所以 user 可以看作是欣赏历史中所有 item embedding 的集合。所以 use-item pair 可以看作一个 item embedding 的集合，其中元素为候选东西以及用户欣赏历史中的所有东西。对于搜刮引擎的日志数据来说，一般存储的是 user-query-item-click 这种四元组。对于每一个需要的 item，通过搜刮日志数据召回点击过它的 query。每一个 item 召回 n 个点击过它的 query 作为其东西变量，具体方法为：通过 BERT 等预训练模型将 query 的文本信息转化为向量，将 n 个 query 的 embedding 堆叠起来成为一个矩阵，该矩阵即是对应 item embedding 的东西变量（IVs）。对于每一个 user 的欣赏历史中的 item 构造 IVs，这些矩阵构成了 user 的 IVs。B. Treatment 重构首先进行 treatment 分解。运用 IVs 的目标是通过 IVs 分离出来 treatment 和 outcome 之间的因果关系。研究者用 IVs（Z）回归 treatment（T）得到，根据 IVs 的理论，和 Y 之间的关系代表了 T 和 Y 之间的因果关系。并且，他们用 T –得到残差，并认为和 Y 之间代表了 T 和 Y 之间的非因果关系。传统的因果保举运用中，主要目的是探究因果关系而不是预测准最终的 Y，所以通常会直接移除残差。但是，研究者关心的更多是晋升保举模型的预测准确性，所以在下一步仍然利用残差来晋升保举性能。

图表 5：treatment 重构Treatment 融合。研究者运用加权求和的方式融合两部分 treatment，2 个深度神经网络（MLP）被分别用来学习和的权重，两个网络结构相同，输入均为和的 concatenation。C. 将重构的 treatment 运用到保举模型

图表 6：IV4Rec 的架构许多序列保举模型（DIN、DIEN、NRHUB、BST 等等）都共享上图左边的结构，我们将其称之为 underlying model。Underlying model 将 item 用向量表示，利用用户的历史举动来学习用户的表示，并基于学到的用户和东西的表示来预测用户对于东西的偏好分数。研究者提出的 IV4Rec 框架可以运用在所有符合 underlying model 结构的模型上，只需要简单地在 item embedding layer 后加入 treatment reconstruction module。重构的用户表示是通过其欣赏历史中的东西的重构向量得到的，再利用重构出的用户和候选东西向量，便可以得到更加精确的预测值。三、实验结果为了证明提出的 IV4Rec 框架的有效性，研究者在新闻保举公开数据集 MIND 和快手短视频数据集上进行了实验。采用准确性指标 AUC，以及两个排名指标 MRR 和 NDCG 进行评估，MRR 和 NDCG 的位置分别设置为 5 和 10。研究者将 IV4Rec 框架运用在了两个保举模型 DIN 和 NRHUB 上（记为 IV4Rec-DIN, IV4Rec-NRHUB），并且和一个结合优化搜刮和保举的框架 JSR 进行了比较（记为 JSR-DIN，JSR-NRHUB）。从下表 1 可以看出，与不加入 IV4Rec 的 underlying model 比较，在所有指标上，本文提出的 IV4Rec 框架具有不俗的性能晋升。另外，IV4Rec 对于 underlying model 的性能晋升远超过 JSR 这个结合优化搜刮和保举的框架。这些结果都验证了 IV4Rec 的有效性。在快手短视频数据集上，NRHUB 本身就利用了搜刮举动作为用户特征，研究者对于 DIN 也额外加入了一个用户举动的塔来利用搜刮举动特征，因此在该数据集的实验中，IV4Rec 的确是从因果推断的角度晋升了模型的效果，而不是因为加入搜刮特征得到的晋升。

表 1. 整体实验结果为了进一步探究所提出的方法利用残差的效果，研究者在快手短视频数据集上尝试了不同版本的 IV4Rec 框架，结果如下图 2 所示。不同的版本分别为：只运用因果的部分；只运用残差；不用 reconstruction module，直接运用原本的 treatment；运用重构的 treatment 通过 concatenate和残差；运用 IV4Rec 中方式重构的 treatment。可以发现当两个部分被结合到一起的时候，AUC 晋升了很多。这种现象同时发生在 NRHUB 和 DIN 上，这说明了残差也可以晋升用户偏好的预测，因为残差仍然和最终的 Y 有很强的相关关系。当目标是做出准确的预测而不是分析因果关系时，和是互补的两个部分。