专栏名称: AIGC Studio
一个有趣有AI的AIGC公众号:关注AI、深度学习、计算机视觉、AIGC、Stable Diffusion、Sora等相关技术。这里不仅有简单易懂的AIGC理论实践和AI学习路线,还有大厂工作经历和体会分享。如果有幸能给你一些帮助就更好啦!
今天看啥  ›  专栏  ›  AIGC Studio

超越AnimateAnyone!Meta提出全身3D虚拟人ExAvatar,可由简短视频建模转化为3D数字形象。

AIGC Studio  · 公众号  · 科技自媒体  · 2024-08-18 00:00
    

主要观点总结

这篇文章介绍了ExAvatar技术,该技术由DGIST和Meta公司的Codec Avatars Lab联合研发。ExAvatar能够通过捕捉视频中的动作和表情,转化为栩栩如生的3D数字形象,解决了以往技术难题,提高了动画的自然度和渲染效果。文章详细阐述了ExAvatar的技术特点、方法、好处、模型结构、效果、局限性以及未来工作方向。

关键观点总结

关键观点1: ExAvatar的技术特点

ExAvatar是全新富有表现力的全身3D高斯化身,结合了SMPL-X的全身驾驶能力和3DGS的强大外观建模能力。通过随意拍摄的短手机扫描中性姿势约10秒即可制作而成。

关键观点2: ExAvatar的主要挑战

视频中面部表情和姿势的多样性有限以及缺乏3D观察是ExAvatar面临的主要挑战。为了解决这些问题,ExAvatar采用了网格和3D高斯的混合表示。

关键观点3: ExAvatar的方法与好处

ExAvatar提出了三维高斯和表面网格的混合表示,兼容SMPL-X的面部表情空间,并能显著减少新面部表情和姿势中的伪影。此外,通过使用基于连接的正则化器,提高了动画的真实性和渲染效果。

关键观点4: ExAvatar的效果

ExAvatar能够创建具有新颖面部表情和姿势的动画,并通过短单目视频制作任意头像。与之前的虚拟形象相比,ExAvatar实现了更加自然的动作和外观。

关键观点5: ExAvatar的局限性

由于视频中通常无法观察到口腔内部(包括口腔和手掌),ExAvatar在生成这些部位的模型时可能会产生合理的几何形状和纹理。此外,动态服装建模方面也存在困难。


文章预览

ExAvatar是由DGIST和Meta公司的Codec Avatars Lab联合研发的一项技术,能够通过捕捉视频中的动作和表情,转化为栩栩如生的3D数字形象。这项技术解决了以往技术中的难题,提高了动画的自然度和渲染效果。 什么是 ExAvatar? ExAvatar 是全新富有表现力的全身 3D 高斯化身。 结合了SMPL-X的全身(身体、手和脸)驾驶能力和3DGS的强大外观建模能力。 通过随意拍摄的短手机扫描中性姿势约10秒制作而成。 支持具有新颖的身体姿势、手势和面部表情的动画以及从任何视点的渲染。 相关链接 项目地址:mks0601.github.io/ExAvatar/ 论文地址:arxiv.org/abs/2407.21686 论文阅读 ExAvatar:富有表现力的全身 3D 高斯虚拟人 摘要 面部表情和手势对于表达我们的情感和与世界互动是必不可少的。尽管如此,从随意拍摄的视频中建模的大多数 3D 虚拟人仅支持没有面部表情的身体动作。 因 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览