Flex3D – Meta GenAI和牛津大学共同推出的两阶段3D生成框架-爱论文

Flex3D是什么

Flex3D是Meta的GenAI团队和牛津大学研究团队推出的创新的两阶段3D生成框架，能基于任意数量的高质量输入视图，解决从文本、单张图片或稀疏视图图像生成高质量3D内容的挑战。第一阶段，基于微调的多视图和视频扩散模型生成多样化的候选视图，用视图选择机制确保只有高质量和一致的视图被用于重建。第二阶段，用灵活重建模型（FlexRM），一个基于transformer架构的模型，能处理任意数量的输入视图，并直接输出3D高斯点实现高效、详细的三维生成。Flex3D在3D重建和生成任务中实现最先进的性能，用户研究胜率超过92%。

Flex3D的主要功能

高质量的3D内容生成：从文本描述、单张图片或稀疏视图图像生成高质量的3D模型。灵活的视图生成：基于微调的多视图和视频扩散模型，生成丰富的候选视图，捕捉目标3D对象的多个角度。视图筛选机制：自动筛选出高质量和一致性的视图，用在后续的3D重建过程。灵活重建模型（FlexRM）：基于transformer架构，处理任意数量的输入视图，并直接输出3D高斯点。高效的3D表示：用三平面表示法和3D高斯绘制技术，实现快速且详细的3D模型生成。鲁棒性：模拟不完美的输入视图进行训练，增强模型对输入噪声的鲁棒性。

Flex3D的技术原理

多视图扩散模型：用微调的多视图图像扩散模型和视频扩散模型生成候选视图池。视图选择管道：基于质量评估和特征匹配网络，筛选出高质量的视图用在3D重建。变换器架构：FlexRM基于变换器架构，处理不同数量和角度的输入视图。三平面表示与3D高斯绘制：结合三平面特征和3D高斯绘制技术，基于MLP解码三平面特征为3D高斯点。两阶段训练策略：首先预训练模型，用真实世界的密集渲染数据进行第二阶段训练。不完美输入视图模拟：在训练过程中模拟不完美的输入视图，在3D高斯点上添加噪声增强模型的鲁棒性。

Flex3D的项目地址

项目官网：junlinhan.github.io/projects/flex3darXiv技术论文：https://arxiv.org/pdf/2410.00890

Flex3D的应用场景

视频游戏开发：快速生成游戏资产和环境的3D模型，提高游戏设计和开发的效率。增强现实（AR）和虚拟现实（VR）：为AR和VR应用创建逼真的3D对象和场景，提升用户的沉浸感。电影和动画制作：在电影和动画中生成高质量的3D模型，用在角色设计、道具制作和场景构建。机器人技术：生成3D模型以模拟和训练机器人在复杂环境中的导航和操作能力。电子商务：为在线商店生成产品的3D视图，提供更丰富的产品展示，帮助消费者做出购买决策。