这是一个完全由神经模型渲染出来的视频

meihao @ 2023年04月14日 世界观

这是一个完全由神经模型渲染出来的视频,大家可以看下它的实际效果。
视频用到的是一种名为 Zip-NeRF 的新技术,基于抗锯齿网格的神经辐射场。
🔗 jonbarron.info/zipnerf
这里简单说一下神经辐射场。
神经辐射场( NeRF) 是一种完全连接的神经网络,可基于部分 2D 图像生成复杂的 3D 场景。主要被训练用来渲染损失视图,再现场景。
工作原理是获取表示场景的输入图像并在它们之间进行插值以渲染一个完整的场景。NeRF 是一种为合成数据生成图像的高效方法。
NeRF 网络经过训练,可以直接从观察方向和空间位置(5D 输入)映射到不透明度和颜色(4D 输出),使用体积渲染来渲染新视图。
通过使用基于网格的表示来学习神经辐射场(NeRF)从空间坐标到颜色和体积密度的映射,可以加速神经辐射场的训练。
然而,这些基于网格的方法缺乏对尺度的明确理解,因此通常会引入混叠,通常表现为锯齿状或缺失的场景内容。
之前已经通过 mip-NeRF 360 对抗混叠问题,mip-NeRF 360 是沿着圆锥而不是沿着射线来推理子体积的方法,但这种方法与当前的基于网格的技术并不天然兼容。

微博视频中展示了如何利用渲染和信号处理的思想构建一种技术,将 mip-NeRF 360 和基于网格的模型(如 Instant NGP)相结合,从而产生的误差率比之前的技术低 8% - 76%,且训练速度比 mip-NeRF 360 快 22 倍。

(视频)