NVIDIA Omniverse Audio2Face

Omniverse Audio2Face

Omniverse Audio2Face 是一款由 AI 支持的应用程序,仅从一个音频来源即可生成面部表情动画 – 由 AI 提供技术支持。

先睹为快:Audio2Face 早期体验预览

Audio2Face 可简化 3D 角色的动画制作,以与任何配音音轨匹配,无论您是为游戏、电影和实时数字助理制作动画角色,还是单纯为了获得乐趣,都可以轻松完成。您可以将该应用程序用于交互式实时应用场景,也可以用作传统的面部动画创作工具。实时运行结果还是烘焙结果,由您决定。

Omniverse Audio2Face 公测版即将推出。

工作原理

Omniverse Audio2Face 应用程序基于原始 NVIDIA 研究论文。Audio2Face 预装有“Digital Mark”。这是一个 3D 角色模型,可以使用您的音轨进行动画处理,因此入门步骤非常简单。只需选择您的音频并将其上传到应用程序即可。该技术将音频输入到预先训练的深度神经网络中,而网络输出会实时生成角色的面部动画。用户可以通过编辑各种后处理参数来编辑角色的性能。然后,网络输出会生成角色的 3D 顶点网格,以创建面部动画。您在此页面上看到的结果主要为 Audio2Face 的原始输出,很少或没有编辑过后处理参数。

(注意:直接的 BlendShape 支持将于稍后的某个日期发布)

Omniverse Audio2Face App

查看 Audio2Face 的实际应用

语言

Audio2Face 将能够轻松处理任何语言。我们会定期添加更多语言。查看这些英语、法语、意大利语和俄语测试。

动画聊天机器人 Misty

Misty 是一款交互式天气机器人,在 2020 年春季的 GTC 上亮相展示,运行时由 Audio2Face 生成。我们演示了从真实的人类网格到程式化的角色网格的重新定位,以用作交互式服务代理。

Omniverse Machinima

Audio2Face 在 GeForce 30 系列发布会上推出,现已登陆 Omniverse Machinima 演示版。众所周知,面部动画不仅非常复杂,而且成本高昂。Audio2Face 可自动创建详细的面部动画,使 3D 内容创建过程更易为大众所接受。

即将推出的功能 – 角色迁移

人脸

Audio2Face 可以使用任何对话驱动的音轨,并最终重新定位到任何 3D 人脸(无论人脸是真实的还是程式化的)。观看我们关于从 Digital Mark 重新定位到 Rain 的测试。

生物和外星人

此功能允许您重新定位和生成奇幻生物和外星人的面部动画。在此,我们让 Digital Mark 驱动外星人的行为表现。

深入了解 Audio2Face

观看 GTC 2020 上的技术概述。

系统要求
元素 最低规范
支持的操作系统 Windows 10 64-bit, 1909 and up
CPU Intel I7, AMD Ryzen
CPU 核心数 4 核或以上
RAM 16 GB 或更高
存储空间(可用) 500 GB 或更高
GPU 任何 RTX GPU
VRAM 6 GB 或更高
视频驱动最低版本 455.28 (Linux), 456.71 (Windows)
注意: Omniverse 可以在任何 RTX 驱动的计算机上运行。为了获得理想的性能,我们建议使用 GeForce RTX 2080,Quadro RTX 5000 或更高版本。有关最新的驱动程序, 请访问此处

支持

使用 AI 生成 3D 面部动画

Audio2Face 简化了与任何配音音轨匹配的 3D 角色动画制作,可以支持实时使用或在传统角色创建工作流程中加以使用

Omniverse Audio2Face 公测版即将推出。

 

进入 Omniverse

参加由各行业中的 Omniverse 专家主持的一系列 GTC 网络会议,深入了解该平台。

更多 Omniverse 应用程序

Omniverse 应用程序专为增强特定工作流程而打造。了解实际应用。

nvidia-omniverse-view-64

查看

协作设计、沉浸式可视化和逼真渲染,适用于建筑、工程和施工行业。

nvidia-omniverse-create-64

创建

加速先进的环境构建,并在 Pixar USD 中以交互方式实时组装、模拟和渲染场景。

nvidia-omniverse-kaolin-icon-64

高岭土

使用 NVIDIA 的 Kaolin PyTorch 库和此功能强大的可视化工具,简化和加速 3D 深度学习研究。

nvidia-omniverse-machinima-64

Machinima

利用为游戏玩家提供的由 AI 支持的工具包,重新混合、重新创建和重新定义动画视频游戏故事情节。

nvidia-omniverse-isaac-sim-icon-64

Isaac Sim

在逼真、高保真的物理 3D 环境中导入、构建和测试机器人。