HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

在 3D 生成领域,根据文本提示创建高质量的 3D 人体表面和几许外形对虚拟试穿、沉浸式远程呈现等应用有深远的意义。传统方法需要经历一系列人工制作的过程,如 3D 人体模型回归、绑定、蒙皮、纹理贴图和驱动等。为了自动化 3D 内容生成,此前的一些典型工作(比如 DreamFusion

在 3D 生成领域,根据文本提示创建高质量的 3D 人体表面和几许外形对虚拟试穿、沉浸式远程呈现等应用有深远的意义。传统方法需要经历一系列人工制作的过程,如 3D 人体模型回归、绑定、蒙皮、纹理贴图和驱动等。为了自动化 3D 内容生成,此前的一些典型工作(比如 DreamFusion [1] )提出了分数蒸馏采样 (Score Distillation Sampling),通过优化 3D 场景的神经表达参数,使其在各个视角下衬着的 2D 图片符合大规模预训练的文生图模型分布。然而,尽管这一类方法在单个物体上取得了不错的效果,我们还是很难对具有复杂关节的细粒度人体进行精确建模。

为了引入人体构造先验,最近的文本驱动 3D 人体生成研究将 SDS 与 SMPL 等模型结合起来。具体来说,一个常见的做法是将人体先验集成到网格(mesh)和神经辐射场(NeRF)等表示中,或者通过将身体外形作为网格 / 神经辐射场密度初始化,或者通过学习鉴于线性混合蒙皮(Linear Blend Skinning)的形变场。然而,它们大多在效率和质量之间进行权衡:鉴于 mesh 的方法很难对配饰和褶皱等精细拓扑进行建模;而鉴于 NeRF 的方法衬着高分辨率结果对时间和显存的开销非常大。如何高效地实现细粒度生成仍然是一个未解决的问题。

最近,3D Gaussian Splatting(3DGS)[2] 的显式神经表达为实时场景重建提供了新的视角。它支持多粒度、多尺度建模,对 3D 人体生成任务非常适用。然而,想要使用这种高效的表达仍有两个挑战:1) 3DGS 通过在每个视锥体中排序和 alpha – 混合各向异性的高斯来表征鉴于图块的光栅化,这仅会反向传播很少一部分的高置信度高斯。然而,正如 3D 表面 / 体积衬着研究所证实的那样,稀疏的梯度可能会阻碍几许和表面的网络优化。因此,3DGS 需要构造疏导,特别是对于需要层次化建模和可控生成的人体领域。2)朴素的 SDS 需要一个较大的无分类器指导(Classifier-Free Guidance)来进行图象文本对齐(例如,在 DreamFusion [1] 中使用的 100)。但它会因过度饱和而牺牲视觉质量,使真实的人类生成变得困难。此外,由于 SDS 损失的随机性,3DGS 中原始的鉴于梯度的密度控制会变得不稳定,导致模糊的结果和浮动伪影。

在最近的一项工作中,香港中文大学、腾讯 AI Lab、北京大学、香港大学、南洋理工大学团队推出最新有效且快速的 3D 人体生成模型 HumanGaussian,通过引入显式的人体构造疏导与梯度规范化来辅助 3D 高斯的优化过程,能够生成多样且逼真的高质量 3D 人体模型。目前,代码与模型均已开源。

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

arXiv: https://arxiv.org/abs/2311.17061

Webpage: https://alvinliu0.github.io/projects/HumanGaussian

Demo: https://www.youtube.com/watch?v=S3djzHoqPKY

Github&Code: https://github.com/alvinliu0/HumanGaussian

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

核心方法

(1)Structure-Aware SDS

研究者鉴于 SMPL-X 网格外形初始化 3D 高斯中心位置:1)以前的研究使用运动构造点(Structure-from-Motion)或 Shap-E [3] 和 Point-E [4] 等通用文本到点云先验。然而,此类方法通常在人体类别中存在点过于稀疏或身体构造不连贯等问题。2)作为 SMPL 的扩展,SMPL-X 补充了人脸和手部的外形拓扑,有利于进行具有细粒度细节的复杂人体建模。鉴于这些观察,研究者提出了在 SMPL-X 网格表面均匀采样点作为 3DGS 初始化。他们对 3DGS 进行缩放和变换,使其达到合理的人体尺寸并位于 3D 空间的中心。

由于 SMPL-X 先验仅用作初始化,因此需要更全面的指导来促进 3DGS 训练。研究者提出使用一个同时捕获纹理和构造联合分布的 SDS 源模型,而不是从仅学习表面或几许外形的单一模态扩散模型中学习 3D 场景。他们使用构造专家分支扩展预训练的 Stable Diffusion 模型,以同时对图象 RGB 和深度图进行去噪:

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

借助这种方式,研究者获得了一个统一的模型,可以捕获表面的图象纹理和前景 / 背景关系的构造,该模型可以在 SDS 中用于促进 3DGS 学习。

通过生成空间对齐图象 RGB 和深度的扩展扩散模型,可以从构造和纹理方面同时指导 3DGS 优化过程:

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

这种构造正则化有助于减少几许失真,从而有利于具有稀疏梯度信息的 3DGS 优化。

(2)Annealed Negative Prompt Guidance

为了促进文本与 3D 生成内容之间的对齐,DreamFusion [1] 使用较大的无分类器疏导尺度来更新 3D 场景优化的分数匹配差异项:

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

在这个公式中,可以自然地将分数匹配差异分解为两部分,其中前一项是将图象推向更真实的流形的生成分数;后一项是将样本与隐式分类器对齐的分类器分数。然而,由于生成分数包含高方差的高斯噪声,它提供了损害训练稳定性的随机梯度信息。为了解决这个问题,DreamFusion 特地使用较大的无分类器疏导尺度,使分类器分数主导优化,导致模式过度饱和。相反,研究者仅利用更清晰的分类器分数作为 SDS 损失。

在文生图和文生 3D 领域中,负文本被广泛用于避免生成不需要的属性。鉴于此,研究者提出增加负文本分类器分数以实现更好的 3DGS 学习。

根据经验,研究者发现负文本分类器分数会在小时间步长内损害质量,因此使用退火的负文本疏导来结合两个分数进行监督:

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

实验结果

研究者与通用的文生 3D 和 3D 人体生成领域的模型进行对比。可以看到,HumanGaussian 取得了优越的性能,衬着出更真实的人体表面、更连贯的身体构造、更好的视图一致性、更细粒度的细节捕捉:

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

此外,研究者还通过消融实验验证了各个模块的有效性。可以看出,SMPL-X 提供的人体构造先验可以给 3DGS 优化提供初始化信息;负文本疏导可以确保逼真的人体纹理表面;图象 RGB 与深度图双分支的 SDS 监督约束可以同时对人体的几许和纹理进行优化;最后根据高斯大小进行剪枝可以去除雾状的伪影:

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

以下是一些高清的多视角 3D 人体生成结果图:

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

HumanGaussian开源:鉴于Gaussian Splatting,高质量 3D 人体生成新框架

更多样本请参考文章的项目主页以及 demo 视频。

总结与未来工作

本文提出 HumanGaussian,一种有效且快速的框架用于生成具有细粒度几许外形和逼真表面的高质量 3D 人体。HumanGaussian 提出两点核心贡献:

(1)设计了构造感知的 SDS,可以显式地引入人体构造先验,并同时优化人体表面和几许外形;

(2)设计了退火的负文本疏导,保证真实的结果而不会过度饱和并消除浮动伪影。总体来说,HumanGaussian 能够生成多样且逼真的高质量 3D 人体模型,衬着出更真实的人体表面、更连贯的身体构造、更好的视图一致性、更细粒度的细节捕捉。

未来工作:

1. 由于现有的文生图模型对于手部和脚部生成的性能有限,研究者发现它有时无法高质量地衬着这些部分;

2. 后背视图的衬着纹理可能看起来模糊,这是因为 2D 姿势条件模型大多是在人类正面视图上训练的,而人类后视图的先验知识很少。

参考文献

[1] Dreamfusion: Text-to-3d using 2d diffusion, ICLR’23

[2] 3d gaussian splatting for real-time radiance field rendering, SIGGRAPH’23

[3] Shap-e: Generating conditional 3d implicit functions, arXiv preprint arXiv: 2305.02463

[4] Point-e: A system for generating 3d point clouds from complex prompts, arXiv preprint arXiv: 2212.08751

给TA打赏
共{{data.count}}人
人已打赏
工程

逼真到头发丝,光线可调,Meta推出及时3D头像合成格式

2023-12-11 15:15:00

工程

丢掉注意力的集中模型:Mamba带火的SSM被苹果、康奈尔盯上了

2023-12-11 15:55:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索