肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

有了上海交大和华为提出的 SAGA,辐射场中的交互式 3D 肢解任务完成起来会更快、效果更好。今年 4 月,Meta 发布「肢解一切(SAM)」AI 模型,这项成果不仅成为很多 CV 研究者心中的年度论文,更是在 ICCV 2023 上斩获最佳论文提名 。「肢解一切」完成了 2D 肢解的「既能」和「又能」,可以轻松地执行交互式肢解和自动肢解,且能泛化到任意新任务和新领域。现在,这种思路也延展到了 3D 肢解领域。辐射场中的交互式 3D 肢解一直是个备受关注的课题,在场景操作、自动标注和 VR 等多个领域均有潜在应用

有了上海交大和华为提出的 SAGA,辐射场中的交互式 3D 肢解任务完成起来会更快、效果更好。

今年 4 月,Meta 发布「肢解一切(SAM)」AI 模型,这项成果不仅成为很多 CV 研究者心中的年度论文,更是在 ICCV 2023 上斩获最佳论文提名 。

「肢解一切」完成了 2D 肢解的「既能」和「又能」,可以轻松地执行交互式肢解和自动肢解,且能泛化到任意新任务和新领域。

现在,这种思路也延展到了 3D 肢解领域。

辐射场中的交互式 3D 肢解一直是个备受关注的课题,在场景操作、自动标注和 VR 等多个领域均有潜在应用价值。以往的步骤主要是通过训练特点场来模仿自监督视觉模型提炼的多视角 2D 特点,从而将 2D 视觉特点提升到 3D 空间,然后利用 3D 特点的相似性来衡量两个点是否属于同一个物体。

这种步骤由于肢解管道简单,因此速度很快,但代价是肢解粒度较粗,因为它们缺乏解析嵌入特点信息的机制(如肢解解码器)。

与此相反,另一种范式是将多视角细粒度 2D 肢解结果直接投影到 3D 掩 ma 网格上,从而将 2D 肢解基础模型提升到 3D。虽然这种步骤可以获得精确的肢解结果,但由于需要多次运行基础模型和体衬着,大量的时间开销限制了交互体验。特别是对于需要肢解多个东西的复杂场景,这种计算成本变得难以承受。

近期,3D Gaussian Splatting(3DGS)因其高质量和实时衬着的能力,为辐射场交互式 3D 肢解带来了新的突破。它采用一组 3D 彩色高斯来表示 3D 场景,高斯的平均值表示它们在 3D 空间中的位置,因此 3DGS 可以看作是一种点云,它有助于绕过对空旷 3D 空间的大量处理,并提供丰富的显式 3D 先验。有了这种类似于点云的结构,3DGS 不仅能完成高效的衬着,还能成为肢解任务的理想候选东西。

受到这种步骤的启发,在最近的一篇论文中,来自上海交大和华为的研究者在 3DGS 的基础上提出了将 2D 的「肢解一切」模型的细粒度肢解能力提炼到 3D 高斯中。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

论文链接:https://arxiv.org/pdf/2312.00860.pdf

这一策略有别于以往将 2D 视觉特点提升到 3D 的步骤,完成了精细的 3D 肢解。此外,它还避免了推理过程中耗时的 2D 肢解模型的多次 forward。这种蒸馏是通过应用 Segment Anything Model(SAM)根据自动提炼的掩码训练高斯 3D 特点来完成的。在推理过程中,通过输入提醒生成一组查询,然后通过高效的特点匹配检索预期的高斯。

研究者将这种步骤命名为 Segment Any 3D GAussians (SAGA),可在几毫秒内完成精细的三维肢解,并支持各种提醒,包括点、涂鸦和掩码。对现有基准的评估表明,SAGA 的肢解质量与之前的 SOTA 水平相当。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

作为在 3D 高斯中进行交互式肢解的首次尝试,SAGA 具有多功能性,可适应各种提醒类型,包括掩码、点和涂鸦。值得注意的是,高斯特点的训练通常只需 5-10 分钟即可完成。随后,大多数目标东西的肢解可在几毫秒内完成,完成了近 1000 倍的加速。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

步骤概览

下图 2 为 SAGA 的整体 pipeline。给定预训练的 3DGS 模型及其训练集,研究者首先应用 SAM 编码器来提炼一个 2D 特点图肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速,以及 I 中每个图像 I ∈ R^H×W 的一组多粒度掩码 M^SAM_I。接着鉴于提炼的掩码来训练一个低维特点 f_g ∈ R^C,以聚合交叉视图一致的多粒度肢解信息(其中 C 表示特点维度,默认值设置为了 32)。这些通过精心设计的 SAM 引导受益来完成。

为了进一步增强特点紧凑性,研究者从提炼的掩码中导出点对应关系,并将它们提炼为特点(即对应受益)。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

在推理阶段,对于具有相机姿态 v 的特定视图,研究者鉴于输入提醒 P 来生成一组查询 Q。接着通过与学得的特点进行高效特点匹配,应用这些查询来检索对应目标的 3D 高斯。

此外,研究者还引入了一种高效的后处理操作,利用类点云结构的 3DGS 提供的强大 3D 先验来细化检索到的 3D 高斯。

高斯训练特点

给定一个具有特定相机姿态 v 的训练图像 I,研究者首先根据预训练的 3DGS 模型肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速来衬着对应的特点图。像素 p 的衬着后特点 F^r_I,p 计算为如下公式 (3)。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

SAM 引导的受益。研究者提出应用 SAM 生成的特点来做引导。如上图 2 所示,他们首先采用一个 MLP φ,将 SAM 特点映射到与 3D 特点相同的低维空间。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

对应关系受益。在实践中,研究者发现应用 SAM 引导受益学得的特点在紧凑性上不够,从而导致各种提醒的肢解质量下降。他们从以往的对比对应关系蒸馏步骤中汲取灵感,提出用对应关系受益来解决问题。掩码对应关系 K_I (p1, p2) 定义如下公式(8)。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

推理

3D 高斯的肢解可以利用 2D 衬着的特点来完成。这一特性使得 SAGA 兼容了各种提醒,包括点、涂鸦和掩码。此外鉴于 3DGS 提供的 3D 先验,研究者还引入了一种高效的后处理算法。

鉴于 3D 先验的后处理

3D 高斯的初始肢解肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速存在两个问题,分别是存在多余的噪声高斯,缺少对目标东西至关重要的特定高斯。为了解决这两个问题,研究者利用了传统的点云肢解技术,包括统计过滤和区域生长。

对于鉴于点和涂鸦提醒的肢解,他们应用统计过滤来过滤掉噪声高斯。对于掩码提醒和鉴于 SAM 的提醒,他们分别将 2D 掩码映射到肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速上,前者得到一组验证后的高斯,后者消除不想要的高斯。

所得到的验证后的高斯作为区域生成算法的种子(seed)。最后应用鉴于球查询的区域生长算法来从原始模型肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速中检索目标需要的所有高斯。

实验评估

研究者在定量实验中应用了 NVOS(Neural Volumetric Object Selection)和 SPIn-NeRF 两个数据集,在定性实验中应用了 LLFF、MIP-360、T&T 和 LERF 数据集。此外他们应用 SA3D 来为 LERF-figurines 场景中的一些东西做注释,以展现 SAGA 能够取得更好的权衡效率和肢解质量。

定量结果

NVOS 数据集。研究者遵照 SA3D 的步骤来处理 NVOS 数据集提供的涂鸦,以满足 SAM 的要求。结果如下表 1 所示,SAGA 能够媲美以往的 SOTA 步骤 SA3D,并显著优于 ISRF 和 SGISRF 等以往鉴于特点模拟的步骤,展现了自身的细粒度肢解质量。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

SPIn-NeRF 数据集。研究者遵照 SPIn-NeRF 步骤来进行标签传播评估,其中指定了一个视图及它的 ground-truth 掩码,并将该掩码传播给其他视图以检查掩码的准确性,这一操作可以视为掩码提醒。结果如下表 2 所示,SAGA 在仅用千分之一的时间便取得了与 MVSeg 和 SA3D 相当的性能。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

与 SA3D 比较。为了进一步展示 SAGA 的有效性,研究者在肢解时间和质量两个指标上与 SA3D 进行了比较。他们鉴于 LERF-figurines 场景运行 SA3D,为很多东西提供了一组注释。然后应用 SAGA 来肢解相同的东西,并检查了每个东西的 IoU 和时间开销。结果如下表 3 所示,展示了 SAGA 可以应用更少的时间获得更高质量的 3D 资产。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

定性结果

研究者首先确定了 SAGA 的肢解精度与先前的 SOTA SA3D 相当,同时显著降低了时间成本。随后,他们展示了 SAGA 在部件和目标肢解任务中比 ISRF 更强的性能。结果如图 3 所示。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

第一行显示了 SA3D 和 SAGA 对 LERF-figurines 场景的肢解结果,每个肢解东西的右下方标注了肢解时间;第二行比较了 SAGA 和 ISRF,后者通过模仿自监督视觉 transformer(如 DINO [4])提炼的 2D 特点来训练特点字段;第三行展示了 MIP360-counter 和 T&T-truck 场景的其他肢解结果。

在表 2 中有一些失败案例,与之前的 SOTA 步骤相比,SAGA 的性能并不理想。这是因为 LLFF-room 场景的肢解失败,暴露了 SAGA 的局限性。图 4 展示了彩色高斯平均值,它可以看作是一种点云,SAGA 容易受到 3DGS 模型几何重建不足的影响。

肢解一切「3D高斯」版来了:几毫秒完成3D肢解、千倍加速

更多技术细节和实验结果请阅读原论文。

给TA打赏
共{{data.count}}人
人已打赏
工程

五官乱飞,张嘴、瞪眼、挑眉,AI都能摹仿到位,视频诈骗要防不住了

2023-12-6 14:43:00

工程

弥合2D和3D生成领域之间的次元壁,X-Dreamer实现高质量的文本到3D生成

2023-12-7 11:57:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索