Google发明的从2D图像生成3D图像的技术使用3D估计神经网络图像信息的完成和预测,并结合了拍摄角度,照明和其他信息,从而使生成的3D图像看起来更加逼真。这项技术对于3D构造很有用。模型和工业应用具有重要的指导意义。由Google研究人员制造的AI工具可以将涂鸦变成奇怪的怪物。该工具称为ChimeraPainter,它使用机器学习功能根据用户的粗略草图生成图像。 ChimeraPainter背后的团队在博客文章中解释了他们的方法和动机,称他们的想法是创建“画笔,其行为更像是助手而不是工具”。 ChimeraPainter只是一个原型,但是,如果这种软件普及,它可以减少创建高质量艺术品所需的时间。这种图像生成技术实际上在三维渲染中具有非常广泛的应用。最有代表性的工作之一是从2D图像生成3D图像。我们知道3D图像与2D图像相比具有深度信息的附加维度,但是这种差异导致3D图像比2D图像具有更多的信息。因此,如果您想从2D图像生成3D图像,则可以想象到困难。因此,Google申请了一项名为“学习如何通过渲染许多3D视图来重建3D形状”的发明专利。申请日为2018年10月18日(申请号:201880030823.5),申请人为Google LLC。根据该专利中当前公开的信息,让我们看一下这种生成2D图像到3D图像的方法。在这项技术中,主要使用3D估计器神经网络。如上图所示,它是使用3D估计器神经网络估计图像中描绘的脸部的3D形状和纹理并基于估计的3D形状和纹理生成化身的系统的示意图。通过用户上载面部图像105,系统100可以处理照片以生成化身115。此处所指的化身是用户的3D肖像。在特定过程中,首先由面部识别引擎110处理照片,以生成用户的面部图像特征112(在3D估计神经网络中进行处理)以及3D形状和用户照片中描绘的脸部是根据图像特征进行估算的。纹理,从而生成形状纹理数据122。最后,将数据122发送到3D渲染引擎130,以基于用户的独特面部形状和纹理特征生成用户的3D肖像。为了更真实,渲染引擎可以给出一个特定的视图,其中包含了相机。角度,照明和视野的估计信息可以使生成的图像的质量更加逼真。如上图所示,它是用于用户的3D渲染图像生成的3D估计器神经网络220的系统框图。整个系统的结构相当复杂。从图中可以看到该神经网络是如何工作的。根据当前技术,训练3D估计器神经网络通常具有两个困难:首先,训练对由3D对象图像以及那些3D对象的3D形状和纹理组成,这通常是有限的并且难以获得。其次,训练3D估计器神经网络可能经常导致3D估计器神经网络的网络欺骗。因此,本发明的整个网络被分为有监督训练电路和无监督训练电路。通过两者的结合,在完整训练阶段仅使用无监督训练电路,从而使估计的神经网络输出收敛更快。因为无监督训练循环可以在预训练阶段和完整训练阶段中使用,所以从无监督训练循环开始,在进行预训练之后,完整训练可以单独使用无监督训练循环进行大量迭代,并且大量样本可改善3D估计神经网络估计图像中对象的3D形状和纹理的能力。最后,它是这种无监督训练循环训练的流程图。系统首先需要获取对象图像的第一图像特征,该特征是上述用户面部信息的原始数据,其次,该第一图像特征被提供给3D估计器神经网络并获得3D形状和纹理。基于这些形状和纹理执行3D渲染,并从多个3D视图中导出第二个图像特征,基于图像特征的损失函数计算损失,以了解神经网络执行反向传播以获得更好的分辨率