AI在线 AI在线

VideoMamba

CNN、Transformer、Uniformer之外，我们终于有了更高效的视频理解技术

CNN、Transformer、Uniformer之外，我们终于有了更高效的视频理解技术
视频理解因大量时空冗余和复杂时空依赖，同时克服两个问题难度巨大，CNN 和 Transformer 及 Uniformer 都难以胜任，Mamba 是个好思路，让我们看看本文是如何创造视频理解的 VideoMamba。视频理解的核心目标在于对时空表示的把握，这存在两个巨大挑战：短视频片段存在大量时空冗余和复杂的时空依赖关系。尽管曾经占主导地位的三维卷积神经网络 (CNN) 和视频 Transformer 通过利用局部卷积或长距离注意力有效地应对其中之一的挑战，但它们在同时解决这两个挑战方面存在不足。UniForme
3/25/2024 11:19:00 AM
机器之心
  • 1