视频云全球创新挑战赛 —— 视频方向联系经典算法解析

视频方向联系是目前视频算法领域的前沿话题，越来越多的应用在了各个行业场景里。本次由英特尔与阿里云联合举办、与优酷战略合作的 “新内容 新交互 “全球视频云创新挑战赛算法赛道，也将目光聚焦于这一个领域。大赛自开赛以来，已经吸引了 2000 多支队伍参赛，汇聚了全球算法精英。

本文将以 “Media AI 阿里巴巴文娱算法挑战赛” 为例，精选出由优酷人工智能部算法团队提出的冠军方案，为本届大赛选手提供成功的参赛经验和技术解读。

除传统联系算法需要处理的视角光照变化、方向尺度变化、方向间遮挡等难点之外，面向视频智能生产的人物联系算法还需要关注以下特殊难点：

视频场景内容丰富多样：要求算法在复杂背景干扰下正确发掘场景显著主角复杂衣着 / 手持 / 附属物：要求算法充分描述方向丰富和复杂的外观语义方向人物快速剧烈动作：要求算法处理运动模糊、剧烈形变带来的误联系、漏联系

Media AI 大赛的数据集面向高精度 – 实例级 – 视频人物联系任务，提供了 1700 段逐帧精细标注视频数据，其中预赛和复赛各 800 段训练集和 50 段测试集，对上述难点都有体现。

相比于学术 / 工业界标准的 DAVIS 和 YouTube-VOS 数据集，本数据集含有业界最多人体方向标注标签（18 万帧，30 万标注人体方向），且在标注精度、内容广度等方面均处于行业领先地位。这次数据库依托优酷站内海量资源，囊括古装剧集、现代剧集、街拍、街舞、运动（跑酷、球类、健身）等丰富内容，更加符合智能化视频内容生产的现实需求。经过精细化人工标注，数据集真值掩码图精准勾勒视频人物的边缘细节，为训练以及测试联系算法的准确性和精确性提供了依据。

此外，该数据集还针对人物手持物 / 附属物举行了标注，有助于算法对人物与物品从属关系举行学习。

冠军方案算法详解

在预赛阶段，优酷人工智能部算法团队以 STM（Video Object Segmentation using Space-Time Memory Networks）为基础，举行了彻底的模型复现和以及算法改进。在复赛阶段，以预赛半监视模型为骨干，配合以方向检测、显著性判别、关键帧选择等模块，实现高精度无监视视频联系链路。

 1. 监视视频人物联系

半监视 VOS 的任务方向是在给定第一帧物体掩码的前提下，将该物体在后续帧中连续联系出来。

 1. 1 基本框架

提出 Spatial Constrained Memory Reader 以处理 STM 空间连续性不足问题

首先 STM 在像素婚配时是基于外观的婚配，没有考虑物体在相邻两帧之间空间上的连续性。换言之，STM 会寻找与前面帧中外观相似的物体，但对该物体出现在何位子不敏感。因此，当一帧中出现多个外观相似物体时，STM 的联系结果就有可能产生错误。

针对这个问题，DAVIS2020 半监视第一名方案的处理方法是将前一帧的物体 mask 结合到 encode 之后的 feature 中，降低离前一帧物体位子较远像素的权重（如图 1 所示）。实际尝试后发现增益不大。我们认为原因在于训练过程中给与模型过强的位子先验，导致模型联系过分依赖于前一帧的物体位子信息，约束了 non-local 的长距离婚配能力。一旦出现前一帧物体被遮挡，或者前一帧物体联系错误的情况，整段视频的联系结果将出现不稳定性偏移。

图 1. Spatial-contrained STM

DAVIS2020 半监视第三名方案对此的处理方案是 kernelized memory reader（如图 2 所示），这种方法能保证 memory 中的点会婚配到 query 中最相似的一个区域，可以避免出现一对多婚配的问题。但是不能保证空间上的连续，容易出现不可逆的误差累积。

图 2. Kernelized-memory STM

综合考虑上述两种方法，我们提出了一种既能考虑前一帧物体位子信息，又不影响原始婚配训练过程的方法。如图 3 所示，利用前一帧的物体 mask 生成位子大小相关的高斯核，通过这个高斯核来修正 memory 中像素的最优婚配位子。之后流程和图 2 相似，利用每个像素的最优婚配位子对原始婚配举行修正。如此一来，既没有影响训练过程，导致 non-local 部分婚配能力降低，又引入了 spatial prior，保证了物体 mask 的空间连续性。

图 3.Spatial-contrained Mmeory Reader 示意图

增加 ASPP & HRNet post-refinement 以处理 STM 解码器对多尺度方向联系精细度较差问题

通过 ASPP 增加多尺度信息的捕获能力，利用 HRnet 对 STM 的初始联系结果举行 refine，优化物体细节的联系效果。

 1. 2 训练策略

在比赛中采用了两阶段训练的方法。第一个阶段，采用 MS-COCO 静态图像库成视频序列举行预训练。第二个阶段，将公开数据库（DAVIS,Youtube-vos）和比赛训练集举行合并训练，来保证有足够的数据量。具体训练细节以下：

 Crop 相邻 3 帧图像 patch 举行训练，尽可能增加 augmentation。crop 时需要注意一定要保证在第 2 和第 3 帧出现的物体都在第一帧出现了，否则应该过滤；将 DAVIS,Youtube-vos 和比赛训练集以一定比例融合效果最好；训练过程指标波动较大，采用 poly 学习率策略可缓解； 训练比较吃显存，batch size 比较小的话要 fix 所有的 bn 层。 

 1. 3 其他

Backbone：更换 resnest101测试策略：使用 Multi-scale/flip inference

1. 4 结果

优酷算法团队的模型，在测试集上取得了 95.5 的成绩，相比原始 STM 提高将近 5 个点。

2.   无监视视频人物联系

无监视 VOS 的任务方向是在不给定任何标注信息的前提下，自主发掘前景方向并举行连续的联系。无监视 VOS 方法链路较为复杂，通常不是由单一模型处理，其中涉及到方向检测、数据联系、语义联系、实例联系等模块。

 2.1 算法框架

我们复赛所采用的算法流程具体分为以下四步：

a. 逐帧做实例联系

采用 DetectoRS 作为检测器，为保证泛化能力，没有在比赛训练集上 finetune 模型，而是直接使用在 MS COCO 数据集举行训练。此阶段只保留 person 类别。阈值设为 0.1，目的是尽可能多地保留 proposal。

b. 对实例联系的 mask 举行后处理

以下左图所示，现有 instance segmentation 的方法产生的 mask 分辨率低，边缘粗糙。我们采用语义联系模型对 DetectoRS 产生的结果举行 refine（image+mask ->HRnet -> refined mask）, 结果以下图。可以看出掩码图中的物体边缘以及细节都有了明显的改善。

图 4. 检测器（DetectoRS）输出掩码图（上）与 refine 后掩码图（下）

 c. 帧间举行数据联系，得到初步结果

利用 STM 将 t-1 帧的 mask warp 到 t 帧，这样就可以利用 warp 后的 mask 和第 t 帧的联系结果举行婚配。通过这个过程，补偿了运动等问题产生的影响，稳定性更高。具体的，对于首帧物体，我们保留置信度大于 0.8 的 proposal。对第 t-1 帧和第 t 帧做数据联系时，首先利用 STM 将第 t-1 帧的结果 warp 到第 t 帧。然后用匈牙利算法对 warp 后的 mask 和第 t 帧由 DetectRS 生成的 proposal 举行二部图婚配。

 d. 筛选联系结果较好的帧作为 key frames 举行迭代优化

经上述数据联系以后，我们已经得到了初步的无监视 VOS 结果，其中每帧的 mask 是由 DetectRS 生成，id 是由数据联系决定。但是这个结果存在很多问题，还可以进一步优化。比如说视频开始处出现的漏检无法被补上。以下图所示，左侧的人在视频开始处不易被检测，直到第 10 帧才被检测出来。另外，视频中人体交叠严重处联系质量要远低于人体距离较大处。

因此，我们可以根据物体数量，bbox 的交叠程度等信息筛选出一些可能联系较好的帧作为下一轮优化的 reference。具体的，我们可以利用筛选出来的 key frames 作为初始 memory，用 STM 举行双向预测。首先双向预测可以处理视频开始处的漏检，其次 STM 对于遮挡等问题的处理也要好过单帧的实例联系。经实验验证，每迭代一次 STM 双向预测，指标都有小幅度提升。

视频方向（人物）联系（Video Object Segmentation，简称为 VOS）算法是业界公认的技术重点难点，同时又有着最为广泛的落地场景和应用需求。相信参与本届 “新内容 新交互 “全球视频云创新挑战赛算法赛道的选手，将以视频方向联系为起点，利用计算机视觉算法领域的诸多技术，为行业和大众打造更加智能化、便捷化、趣味化的视频服务。