三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

随着深度学习技术的快速发展,数据驱动的办法已成为计算机视觉领域的核心。在过去的十年里,随着 ImageNet 诞生之后,计算机视觉领域见证了 “从数据中学习” 的范式的兴盛。在 ImageNet 上进行预训练,然后转嫁到下游的视觉任务,都能显著提升模型性能,并且已经成为 2D 图像领域的标准化方式。

然而,由于确实世界 3D 数据(通常以点云或者 mesh 的形式)的扫描和标注非常繁琐,现有的 3D 数据集要么是合成的,要么与 ImageNet 的规模相去甚远。因此,与 2D 视觉领域不同,在 3D 领域,大多数办法都直接在特定数据集上进行训练和评估,以解决特定的 3D 视觉任务(例如,使用合成的物体或者 ShapeNet 进行新视角合成,使用 ModelNet 和 ScanObjectNN 进行物体分类,使用 KITTI 和 ScanNet 进行场景理解)。

两个关键的问题是:(1)在 3D 视觉领域,尚无一个通用数据集,可以与 2D 领域的 ImageNet 相媲美。(2)这样一个数据集能给 3D 社区带来什么好处还不为人所知。

为了解决这些问题,港中大(深圳)的钻研团队提出了 MVImgNet 和 MVPNet 数据集。MVImgNet 包孕超过 21 万个视频的 650 万帧图像,涵盖了 238 个类型的确实世界物体。MVPNet 包孕超过 8 万个,涵盖了 150 个类型的确实物体点云,并为每个点云提供了类型标签。目前数据集已经在项目主页公开,欢迎大家一起试探!

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

论文地址:https://arxiv.org/abs/2303.06042  

项目主页:https://gaplab.cuhk.edu.cn/projects/MVImgNet/

GitHub 地址:https://github.com/GAP-LAB-CUHK-SZ/MVImgNet

数据集属性

MVImgNet 包孕由智能手机拍摄的 219,188 个确实物体视频。通过对每个视频进行物体分割、COLMAP SfM 重修以及稠密重修,得到了物体掩码、相机参数和点云数据等标注。表 1 揭示了 MVImgNet 中数据的统计信息。

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

表 1. MVImgNet 数据统计

与 ImageNet 中的类型大多是植物和动物(以自然为中心)不同,MVImgNet 包孕了 238 个日常生活中常见的物体类型(以人为中心),并且其中有 65 个类型与 ImageNet 重叠。图 1&2 揭示了 MVImgNet 的类型目录及数据样例。

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

图 1. MVImgNet 类型目录

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

图 2. MVImgNet 中的多视角图片示例

对 MVImgNet 中的稠密重修结果,钻研团队进行了进一步的数据清洗(例如移除掉噪音过大、过于稀疏的点云),得到了一个包孕 150 类、87,200 个确实物体点云的大规模点云数据集 ——MVPNet。图 3 揭示了 MVPNet 中丰富的确实物体点云。

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

图 3. MVPNet 中的确实点云示例

MVImgNet 能做什么?

下游任务一:3D 重修

钻研团队试探了 MVImgNet 对 NeRF 重修以及 MVS 的帮助:通过在 MVImgNet 上训练 NeRF,提升了 generalized NeRF 的泛化能力;通过在 MVImgNet 上预训练自监视 MVS 办法,并将预训练模型转嫁到 DTU 数据集上,获得了不错转嫁性能。下表揭示了直接在 DTU 数据集上训练的模型与用 MVImgNet 预训练模型微调的量化对比结果:

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

表 2. 直接训练 / MVImgNet 预训练模型微调的数值结果

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

在 MVImgNet 上预训练的 NeRF 拥有更好的泛化能力

下游任务二:视角一致的图像理解

尽管人类能够从不同视角理解一个物体,但深度学习模型并不能鲁棒地做到这一点。为此,钻研团队在图像分类、自监视对比学习以及显著性物体检测等任务上做了试探实验,验证了得益于数据的多视角特性,在 MVImgNet 上预训练的模型获得了很好的视角一致性。

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

把 MVImgNet 加入训练提升了分类模型的视角一致性

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

在 MVImgNet 上预训练的模型,能提高模型对不同视角的鲁棒性

MVPNet 能做什么?

在 MVPNet 数据集上,钻研团队试探了其对点云分类及自监视点云预训练的帮助。通过在 MVPNet 上预训练点云分类模型,在 ScanObjectNN 数据集上表现出了很好的转嫁性能。而在 MVPNet 上预训练的 PointMAE(一种点云自监视学习办法)也超越了当前的 SOTA 办法。

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

在 MVPNet 上预训练的模型,展现出了很好的转嫁性能

MVPNet Benchmark Challenge

在 MVPNet 的基础上,钻研团队还提出了一个全新的确实物体点云分类基准测试。钻研团队构建了一个包孕 64000 点云的训练集以及 16000 点云的测试集。相比于 ScanObjectNN,MVPNet 的点云数量更多,分类难度更大,也更贴近于确实场景。

三维ImageNet开源!港中深韩晓光团队助力计算机视觉进入三维大数据时代

主流办法在 MVPNet Benchmark 上的数值结果

展望

我们相信 MVImgNet 将会为整个计算机视觉社区带来很多诸多可能性与挑战,期待与大家共同试探!

更多数据集与实验细节请参阅原论文。

给TA打赏
共{{data.count}}人
人已打赏
AI

哥伦比亚大学计算机系副教授俞舟老师聘请博士后

2023-4-29 13:06:00

AI

斯坦福最新研究警告:别太迷信大模型出现本领,那是襟怀挑选的结果

2023-5-3 17:34:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索