肖像动画技术提供了一种超低成本、高效的方式来创建富有表现力、逼真的角色动画和视频片段:用户只需提供静态肖像图像和原始动画视频,人工智能模型就可以使用这些输入,通过将原始视频中的表情转移到静态肖像图片中生成视频。
节跳动推出 X-Portrait 2,用户只需提供一张静态肖像图和一段视频,即可生成将视频中的面部表情转换为静态肖像图的视频。它可以传输细微的面部表情,包括撅嘴、吐舌头、鼓起脸颊和皱眉等具有挑战性的表情。
字节跳动推出了 X-Portrait 2,它以之前的作品 X-Portrait 为基础,将肖像动画的表现力提升到了一个全新的水平。为了实现这一点,构建了一个最先进的表情编码器模型,通过在大型数据集上进行训练,来捕捉输入中的每个微小表情。然后,将此编码器与强大的生成扩散模型相结合,生成流畅且富有表现力的视频。X-Portrait 2 模型可以模拟演员的细微和微小的面部表情,以及包括撅嘴、吐舌头、鼓起脸颊和皱眉在内的具有挑战性的表情。

在训练表情编码器时确保外观和动作的强分离,以便编码器仅关注视频中与表情相关的信息。模型可以实现强大的跨风格和跨领域表情迁移,涵盖逼真的肖像和卡通图像。这使得模型高度适应各种用例,包括现实世界的故事讲述、角色动画、虚拟代理和视觉效果。

与X-Portrait 和最近发布的Runyway Act-One 等最先进的方法相比,模型可以传递快速的头部动作、微小的表情变化和强烈的个人情感。这些方面对于高质量的动画内容创作至关重要,例如动画和电影制作中的动画内容。

AI 肖像动画重新定义了我们如何将人物表情可视化并与人物表情互动。字节跳动的先进 AI 工具 X-Portrait2 走在了这一创新的前沿,为静态肖像带来了栩栩如生的面部动画和富有表现力的动作。借助 X-Portrait2,用户可以将静态图像转换为具有逼真情绪和表情的会说话的人物,为基于肖像的动画树立了新标准。

X-Portrait2 的主要特点
逼真的面部动画:这款面部动画软件旨在以高度逼真的方式呈现面部表情。它利用深度学习技术,准确地生成各种面部表情和动作。

情感复制:该工具可以复制人类常见的情感,通过静态肖像动画来传达快乐、惊讶和好奇等感受。
详细的面部动作:该工具不仅可以制作嘴巴动画,还可以制作眼睛和眉毛等其他面部部位的动画,从而使动画感觉更自然、更完整。

语音驱动动画:X-Portrait 2 的突出特点之一是它能够将面部动作与对话同步,使动画角色能够实时说话。
高精度唇形同步:X-Portrait 2 使用语音驱动动画技术将嘴部动作与说话同步,使角色看起来就像在说话一样。

嘴形和音素匹配:此工具将嘴形与特定音素对齐,从而产生流畅逼真的说话动画,提高观众的参与度。
该领域的其他著名工具包括DeepFaceLab和D-ID。DeepFaceLab广泛用于深度伪造和换脸应用,通过利用大量数据集实现定制的面部表情和逼真的嘴部动作。另一方面, D-ID专注于根据照片制作引人入胜的视频内容,使用 AI 以复制自然语音和情感的方式制作面部动画。

我不能呼吸了
以后演戏小鲜肉可以不用出场了[滑稽笑]