材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

在计算图形学领域,材质外表刻画了真实物体与光线之间的复杂物理交互,通常可抒发为随空间位置变化的双向反射分布函数(Spatially-Varying Bidirectional Reflectance Distribution Function,缩写为 SVBRDF)。它是视觉计算中不可或缺的组成部分,在文化遗产、电子商务、电子游戏和视觉特效等领域中有着广泛的应用。在过去的二十年里,特别是深度学习流行后,学术界与工业界对高精度、多样化数字材质外表的需求不断增加。但由于技术上的挑战,收集大型数据库仍然十分困难,目前公开

在计算图形学领域,材质外表刻画了真实物体与光线之间的复杂物理交互,通常可抒发为随空间位置变化的双向反射分布函数(Spatially-Varying Bidirectional Reflectance Distribution Function,缩写为 SVBRDF)。它是视觉计算中不可或缺的组成部分,在文化遗产、电子商务、电子游戏和视觉特效等领域中有着广泛的应用。

在过去的二十年里,特别是深度学习流行后,学术界与工业界对高精度、多样化数字材质外表的需求不断增加。但由于技术上的挑战,收集大型数据库仍然十分困难,目前公开可用的材质外表实拍数据库的数量非常有限。

为此,浙江大学计算机辅助设计与图形系统全国重点实验室和杭州相芯科技有限公司的钻研团队联合提出了一种新型集成系统,用于鲁棒、高质量和高效地收集平面各向异性材质外表。利用该系统,钻研团队构建了 OpenSVBRDF 公开材质数据库

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                               图 1:OpenSVBRDF 数据库中的部分材质样例揭示。每一行同属一个材质类别。

这是第一个大规模 6 维 SVBRDF 的实测数据库,共有 1,000 个高质量平面样本,空间分辨率为 1,024×1,024,等效为超过 10 亿个实测 BRDF,涵盖了包括木材、织物和金属在内的 9 种类别。

数据库主页:https://opensvbrdf.github.io/

目前,数据库对非商业应用完全免费。只需要提交基本信息在网站上申请账号,通过审核后,即可直接下载包括 GGX 纹理贴图在内的相关数据和代码。相关钻研论文《OpenSVBRDF: A Database of Measured Spatially-Varying Reflectance》已被计算机图形学顶级国际会议 ACM SIGGRAPH ASIA 2023 (Journal Track) 长文接收。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

论文主页:https://svbrdf.github.io/

技术挑战

直接采样方法在不同的光照和观察角度的组合下对物理材质进行密集测量 [Lawrence et al. 2006]。这么做虽然能够获得高质量且鲁棒的收集结果,但其效率很低,需要高昂的时间和存储成本。还有一种选择是鉴于先验知识的重修方法,可以从稀疏的采样数据中重修材质。这样虽然提高了效率,但当先验条件不满足时,其质量不尽人意 [Nam et al. 2018]。此外,当前SOTA光路复用技术,虽然达到了较高的收集效率和重修质量,但在处理如拉丝金属和抛光木皮等高度复杂材质时,算法还不够鲁棒 [Kang et al. 2018]。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

图 2:现有材质收集钻研的代表工作。从左到右分别是 [Lawrence et al. 2006],[Nam et al. 2018] 以及 [Kang et al. 2018]。其中 [Kang et al. 2018] 为该团队在 2018 年发表于 ACM SIGGRAPH 的早期工作。

硬件

为高效扫描材质外表,钻研团队搭建了一个接近半立方体的近场光照多路复用设备,其尺寸约为 70cm×70cm×40cm。样本被放置在一块透明的亚克力板上,可以通过抽屉滑轨快速滑入 / 滑出,来实现高吞吐率。该设备由 2 台机器视觉相机和 16,384 个高亮度 LED 组成,两台相机分别从大约 90 度(主视角)和 45 度(次视角)的角度拍摄样本,LED 分布在设备的 6 个面上。自主研发的高性能控制电路负责对每个 LED 进行独立亮度控制,并在硬件层面实现了光源投射和相机曝光的高精度同步。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                                图 3:收集设备外表及两个视角下的照片。

收集重修

本系统创新性地结合了当前鉴于网络预测和鉴于微调两大类流行方法的优点,既能通过可微分光照图案优化来增加物理收集效率,又能通过微调来进一步提升最终结果质量,从而首次实现了对于平面 SVBRDF 的高鲁棒性、高质量以及高效率的收集重修。

具体来说,为了重修物理样本,钻研者首先通过在均匀照明下匹配密集 SIFT 特征来建立两个相机视角之间的高精度对应关系。对于物理收集,首先将光照图案作为自编码器的一部分进行优化,实现高效收集。该自编码器自动学习如何鉴于两个视角的测量值来重修复杂外表,并将结果表示为中间神经抒发。随后,根据主视角相机在 63 个等效线性光源下拍摄的照片,通过绘制图像误差对神经抒发进行微调,以提高最终结果的质量和鲁棒性。图 3 揭示了整个系统的处理流程。更多详细信息请参阅原文论文。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                               图 4:整个系统的收集重修流程。

结果

钻研职员共收集重修了 9 个类别,共计 1,000 个样本的外表,为了方便鉴于物理的标准绘制管线(PBR)直接使用,该钻研还将神经抒发拟合到了业界标准的各向异性 GGX BRDF 模型参数。图 5 揭示了材质重修结果的分项参数 / 属性。每个样本存储了 193 张原始 HDR 照片(总大小 15GB)、中间神经抒发(290MB),以及 6 张贴图,包括表示 GGX 参数的纹理贴图和透明度贴图(总大小 55MB)。神经抒发和纹理贴图的空间分辨率均为 1,024×1,024。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                                  图 5:材质重修结果分项属性(包括神经抒发、漫反射率、高光反射率、粗糙度等)。

为了证明重修结果的正确性,钻研职员将主视角下的照片(下图第一行)和神经抒发绘制结果(下图第二行)进行了比较。定量误差(以 SSIM/PSNR 抒发)标注在绘制图片的底部。由下图结果可见,本系统实现了高质量材质重修(SSIM>=0.97, PSNR>=34db)。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                                 图 6:实拍照片和神经抒发绘制结果在主视角下的对比。

为了进一步证明重修结果的视角域泛化性,钻研职员将点光源照射下、两个视角所拍摄的照片和使用 GGX 拟合参数绘制的结果进行了比较,验证了重修结果的跨视角正确性。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                                图 7:实拍照片和各向异性 GGX 拟合参数绘制结果在两个视角下的对比。

钻研职员还揭示了该数据库在材质生成、材质分类以及材质重修三方面的应用。具体细节请参考原始论文。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                                     图 8:利用 OpenSVBRDF 训练 MaterialGAN 来实现材质生成与插值。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                                    图 9:利用 OpenSVBRDF 训练主动光照以提升材质分类精度。

材质界的ImageNet,大规模6维材质实拍数据库OpenSVBRDF发布|SIGGRAPH Asia

                                  图 10:利用 OpenSVBRDF 来提高鉴于单点采样(左)和光路多路复用(右)的 BRDF 重修质量。

展望

钻研职员将努力扩展现有数据库,增加展现多样性外表的材质样本。未来,他们还计划建立同时包含材质外表和几何形状的大规模高精度实测物体数据库。此外,钻研职员将鉴于 OpenSVBRDF 设计在材质估计、分类和生成等方向上的公开 Benchmark,通过客观定量的标准测试,为推动相关钻研的未来发展提供坚实的数据保障。

给TA打赏
共{{data.count}}人
人已打赏
应用

全网大计划:引爆OpenAI全员乱斗的Q*到底是什么?

2023-11-27 11:12:00

应用

国内首个企业学问大模型发布,中关村科金提供可负担大模型办事

2023-11-27 11:53:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索