3d-face-reconstruction比较
创始人
2024-02-27 11:37:11

摘要:比较近3年,6篇顶会3d-face-reconstruction重建效果。

1:Deep3D

**发表时间:**2020
成就:
1)在REALY和REALY (side-view)两个Benchmark上取得 State-of-the-art。
2)官方github上成绩:
在这里插入图片描述
3DMM:基模:BFM2009
论文侧重使用场景:正脸,无遮挡,自然光场景。
训练过程:
训练集:CelebA, 300W-LP, I-JBA, LFW和LS3D数据集。大概26W左右。图片对齐后resize到224*224作为输入。
在这里插入图片描述
(1)采用弱监督学习的方法,使用较重网络(R-Net,后面接全连接层,回归239个系数)训练回归模型,回归3DMM参数。
(2)239=80个shape系数+64个表情系数+80个纹理系数+6个pose系数+9个光照系数
(3)根据3DMM参数,构建mesh 和贴图。
(4)加一系列loss指导学习,反向更新R-Net模型权重,从而更新3DMM参数。
效果:出来时间太久远,没跑效果。

2:MeLn-Game

发表时间:2021
成就:
1)官方github上成绩:
在这里插入图片描述
3DMM:基模:BFM2009
论文看点: 将三维人脸的形状(3DMM mesh)迁移到游戏三维人脸模板上。
训练过程:
在这里插入图片描述
(1)采用弱监督学习的方法,使用较重网络(工程公布的模型96.5MB,回归257个系数)训练回归模型,回归3DMM参数。
(2)257=80个shape系数+64个表情系数+80个纹理系数+6个pose系数+27个光照系数
(3)根据3DMM参数,构建3DMM mesh 和贴图。
(4)将3DMM mesh 通过RBF转化为Game mesh.
(5)加一系列loss指导学习,反向更新CNN模型权重,从而更新3DMM参数。
效果:
在这里插入图片描述

3:3DDFA_V2

发表时间:2021
成就
1)在 Florence Benchmark上取得 State-of-the-art。
2)官方github上成绩:
在这里插入图片描述
3DMM:基模:BFM2009
论文看点:使用轻量级网络,回归3DMM系数,主打快。
训练过程:
在这里插入图片描述
(1)使用轻量级网络训练模型,回归62个3DMM参数(40个shape系数+10个表情系数+12个pose系数)。
(2)根据3DMM参数,构建3DMM mesh 和贴图。
(3)使用WPDC和VCD两种他们提出的loss,指导学习。
跑一张图片,官网公布的最少耗时是1.35ms ,我用公司mac跑,用公布的最小模型,mb05_120x120.pth,3.8MB,耗时8ms。
效果:
在这里插入图片描述

4:hifi3Dface

发表时间:2021
成就
官方github上成绩:
在这里插入图片描述
3DMM:基模:200个高清亚洲人脸图片构建。如果换成BFM,不能生成贴图。
论文看点:(1)自己制作的基模(符合腾讯财大气粗的风格)(2)3DMM系数不是通过模型回归得到,是通过在线拟合得到。
训练过程
在这里插入图片描述
(1)通过在线拟合,生成头模和原始贴图。1张图片出结果,大概需要2分钟。
在这里插入图片描述
(2)对原始贴图进行unwrap,区域拟合,和pixtopix三步,生成精细的贴图。
效果:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

5: DECA

发表时间:2021
成就
1)在Stirling-HQ (FG2018 3D face reconstruction challenge)和Stirling-LQ (FG2018 3D face reconstruction challenge)两个不同的 benchmark上取得 State-of-the-art的效果。
2)官方github上成绩:
在这里插入图片描述
3DMM:基模:FLAME2020
论文看点:(1)细节纹理与表情分开,能让脸部表情随动自然(2)使用场景不限室内,支持野外图片
训练过程
在这里插入图片描述
(1)DECA有粗糙人脸重建Ec(resnet50的主干)和精细人脸重建Ed,两个过程。
(2)Ec负责回归236个系数(100个shape系数,50个表情系数,50个纹理系数,6个pose系数,27个光照系数,3个相机参数)。
(3)Ec后过程后面,加一系列loss,使用Flame做基模,重建mesh和贴图。
在这里插入图片描述
(4)Ed负责回归128个细节系数。然后加上Ed回归的50个表情系数和纹理系数中的3个皱纹系数,重建一张细节的法线贴图。后面再加一系列loss。
在这里插入图片描述
效果
在这里插入图片描述

6:MICA

发表时间:2022
成就
1)在NoW Benchmark上,取得 State-of-the-art。
2)官方github上成绩:
在这里插入图片描述
3DMM:基模:FLAME2020
论文看点:采用有监督方式,重建有度量标识的mesh
实现过程
在这里插入图片描述
(1)encoder: 用ArcFace做主干,后面接全连阶层,最后回归300个系数.
(2)Decode: 用encoder得到的300个3DMM系数,加flame基模,重建mesh.
(3)用监督的方式,训练上述过程,得到与实际图片同样刻度的头模。
在这里插入图片描述
效果
在这里插入图片描述

总结:

(1)个人感觉,人脸重建这块,基模的选取,对后面的头模重建影响很大。
(2)目前主要的基模,BFM和FLAME,FLAME比较新。
(3)目前主要训练回归模型,回归3DMM系数,用系数重建mesh和贴图。
(4)整个过程,loss那块可做文章的空间较大。

相关内容

热门资讯

埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用,包括头部穴位图、胸部穴位图、背部穴位图、胳...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接:一个人的旅行,据说能看到长白山天池全凭运气,您的运气如何?今日介绍...
demo什么意思 demo版本... 618快到了,各位的小金库大概也在准备开闸放水了吧。没有小金库的,也该向老婆撒娇卖萌服个软了,一切只...
猫咪吃了塑料袋怎么办 猫咪误食... 你知道吗?塑料袋放久了会长猫哦!要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...
世界上最漂亮的人 世界上最漂亮... 此前在某网上,选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中,人们投票选出了心目中最美...
埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...