字节跳动新技术,上传一张图让情绪瞬间“转移”

发布日期:2024-11-13 18:20

来源类型:打量视频 | 作者:苏世鹏

阅读提醒: 作者 | 程茜编辑 | 漠影 视频生成竞赛愈发激烈,但细腻、准确地传达人物面部表情细节仍然是其中的一大难点。 一般的影视作品或者日常交流中,人们说话时伴随着的面部表情变化也是...
【2024年正版资料大全】 【澳门2O24年全免咨料】 【新澳门2024年资料大全管家婆】 【新奥天天免费资料公开】 【7777788888马会传真】 【7777788888澳门】 【新奥门资料精准网站】 【2024新奥天天免费资料】 【新澳天天彩免费资料大全查询】 【新澳门三肖中特期期准】 【7777788888王中王最新传真1028】 【新澳最准的免费资料】 【2024新澳门天天开好彩】

作者 | 程茜编辑 | 漠影

视频生成竞赛愈发激烈,但细腻、准确地传达人物面部表情细节仍然是其中的一大难点。

一般的影视作品或者日常交流中,人们说话时伴随着的面部表情变化也是准确传递信息的关键。在视频生成中,想要让人物的整体表现更加流畅自然,就需要将人物的动作、皮肤纹理、肌肉运动等细节呈现更为细腻。

这对于AI而言难度不小。近期在肖像生成方面的一项研究突破,就针对于上述难题给出了解法。

这就是字节跳动智能创作团队近期提出的X- Portrait 2单图视频驱动技术,仅需要一张静态图片和一段驱动视频,用户就可以得到高质量、电影级的视频片段。

如果我同时上传了《白银帝国》中演员金士杰的视频片段,和一张AI生成的紫发外国女生的静图,就可以让女生直接复刻电影片段的动作。

可以看到,下图中静态图和驱动视频中的人物形象区别很大,并且即使人物表情变化包含大笑、张大嘴等,X-Portrait 2最后生成的效果也完全没有被影响,只是集中于面部表情、头部动作的变化。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

生动丰富的表情是塑造角色性格的关键,可以看出,当下的肖像生成技术正在向着更精细地模拟人类微观表情进阶。

一、经典镜头秒速复刻,大笑、扭头面部均不变形

细致入微的表情,往往是演员传达情绪的关键,现在这项工作也能被AI接管了。

在体验这项技术之初,我设定的初始难度是调用较少感官的表情,如只需要眨眼、大笑等,这考验的就是X- Portrait 2在生成过程中,如何让静图中的人物准确调用正确的感官,并将情绪准确传达出来。

相信很多人都对《大话西游》中紫霞仙子眨眼的镜头记忆犹新,这也被认为是很难超越的眨眼神图,如果把这个表情搬到著名表情包“金馆长”脸上呢?

可以看到,最后生成的视频中,金馆长的眼睛被放大,从抿嘴到眨眼一气呵成,面部完全没有变形,直接复刻了这一经典画面。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

那如果将金馆长的经典大笑表情包放到其他人脸上呢?我利用豆包生成了一张科幻属性明显的人物图像,然后上传了金馆长从大笑到说话的视频片段。

静态图中的人物不仅模仿了金馆长的大笑神态,就连大笑时面部的皱纹、头部的轻微上下摆动动作都传递的十分到位。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

考验完单一表情,再来看下进阶难度。

这一关的原视频人物说话过程中会伴随情绪的转换,例如下个视频中张译表演时的花絮片段,从刚开始说话到扭头大笑。

然后我上传了一张美国著名男演员本·阿弗莱克(Ben Afflec)的剧照,生成视频中,大本和张译大笑时咧开的嘴角弧度都完全相同。并且从侧脸转向正脸时的动作也十分流畅。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

二、阿凡达、灭霸梦幻联动,人人都能做出迪士尼公主表情

X-Portrait 2除了能让一张图片按你想要的风格动起来,还能把相同表情直接搬到各种风格的人物形象上。

基于此,我直接让经典科幻电影《阿凡达》中的阿凡达,与漫威系列中的灭霸来了一场梦幻联动。

我上传了一段电影中女主角涅提妮与他人产生剧烈争执的视频,还有一张灭霸的静态图片。视频中的涅提妮边倒退边显露出悲伤的神色。

灭霸也展现出了同样的深情,并且额头上的皱纹还会伴随着情绪变化逐渐加深。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

动画电影中迪士尼公主的神态动作已经自成体系,让人一看到就身处“迪士尼宇宙”。与此同时,一些互联网上的博主纷纷开启了模仿迪士尼公主的挑战,她们的表情神态惟妙惟肖,现在X-Portrait 2可以让任何人都能快速get这个技能。

这里我选择上传了一张AI生成的动漫人物形象,以及短视频平台中博主上传的模仿视频。可以看到,原视频的博主眼神、嘴部以及整个表情都很夸张,这个难度X-Portrait 2的生成效果并没有翻车。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

我还上传了其他博主的模仿视频,生成的效果直接让本来只是一张静态图片的公主,直接身处童话世界了,好奇、开心的表情十分可爱逼真。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

现在有很多动画电影还会被改编成真人电影,但这类电影在选择演员、剧情改编、演员表演等方面都会让原先的动漫读者忐忑不安,因为很多剧情真人演员很难表演出来,部分表情、动作甚至剧情会被改编。

现在基于X-Portrait 2可以直接将动漫人物的表情“复制”下来,“粘贴”到其他人物上。我上传了一段《美女与野兽》中“野兽”的一段视频,视频中“野兽”的五官与人类类似,还伴随着大吼的动作。

这段表演被准确复制到了我用AI生成的图片上,X-Portrait 2在表情识别方面没有受到干扰,眼睛、嘴巴的动作变化丝滑流畅,复刻了“野兽”的愤怒情绪。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

可以看出,X-Portrait 2在表情生成方面的效果逼真程度可以体现在,眼部、嘴部的动作以及表情切换、动作协同性等诸多方面,能让静态形象的表情生成与其他动作配合协同。

三、表情编码器模型+生成扩散模型,实现表情“复刻”效果跃迁

上述这些肖像生成的惊艳效果均出自X-Portrait 2。

今年3月,字节跳动的第一代肖像动画模型X-Portrait,可以用于生成富有表现力和时间连贯的肖像动画。X-Portrait 2就是这一肖像动画模型的迭代版本,能够如实表现快速的头部动作、细微的表情变化以及强烈的个人情感。

为了让最后生成视频的表情更加流畅、逼真,X-Portrait 2结合了表情编码器模型和生成扩散模型,能够捕捉到驱动视频中演员的细微表情,甚至于撅嘴、吐舌头等需要调动多个面部器官的表情也能准确传达。

这一表情编码器模型是基于大型数据集进行训练,隐式编码输入中的每个微小表情,就可以做到表情传达的准确性。

面对驱动视频,这一编码器还可以实现人物外观和表情动作的强分离,能够让其更专注于视频中与表情相关的信息,从而实现表情动作的准确迁移。

通过为模型设计过滤层,编码器能有效过滤运动表征中的ID相关信号,使得即使ID图片与驱动视频中的形象和风格差异较大,模型仍可实现跨ID、跨风格的动作迁移,涵盖写实人像和卡通图像。

目前,除了X-Portrait 2,视频生成创企Runyway上个月也推出了类似的功能Act-One,这一功能可以让用户自己录一段视频,然后将其转移到AI生成的角色上。

相比之下,X-Portrait 2可以更准确地传递人物头部的动作、微笑的表情变化和个人情感表达;Act-One最终生成的视频也可以传达表情,但在人物情绪和快速的头部动作方面可能无法准确“复刻”。

下图的对比视频中可以看出,原视频中人物很悲伤,且说话中头部有轻微转动,但基于X-Portrait和Act-One生成的视频都没有将其体现出来,X-Portrait视频中人物头部摆动幅度复现了,但两个视频中的人物表情有轻微笑意,与原视频的情绪完全不同。

重播
播放
00:00 / 00:00 直播
00:00
进入全屏
50
点击按住可拖动视频

面部细节还原、头部动作与姿态的协调等,都是做到精准表情生成的关键,这也是目前X-Portrait 2的优势所在。

结语:让视频生成突破表情细节难题

在视频生成的众多环节中,表情生成是一个极具挑战性的部分,因为与人物整体的动作生成相比,细致入微的表情生成要困难得多,一个细微的面部肌肉变化都可能传达出截然不同的情绪。

尽管这项技术目前还处于学术研究阶段,但字节跳动在这一方面的积极探索具有深远的意义,通过不断地优化算法和模型结构,X-Portrait 2已经展现出捕捉和再现人物表情微妙变化的能力。这种进步将进一步拓展视频生成的应用边界。

【新奥六开彩资料2024】 【澳门正版资料大全免费】 【新奥最新版精准特】 【2024年新澳正版资料免费大全】 【澳门二四六免费资料大全499】 【最精准免费资料大全】 【新澳门期期准】 【2024新澳正版资料免费大全】 【新澳天天开奖资料大全旅游攻略】 【2024澳門資料免費】 【澳门六开奖结果2024开奖今晚】 【2024澳门天天六开彩开奖结果】 【二四六香港管家婆期期准资料大全】 【澳彩网站准确资料查询大全】
【奥门123免费精准资料一大全】 【2024年新澳门免费资料】 【澳门精准资料免费手机网】 【新澳2024年精准特马资料】 【新澳2024资料免费大全版】 【澳门正版资料免费大全新闻】 【澳门资料大全正版免费资料】 【2024新澳免费资料大全精准版】 【澳门最准的资料免费公开】 【新澳天天免费资料单双】 【2024臭门正版资料大全】 【2024新奥马新免费资料】 【2024澳门天天开好彩大全免费】 【今晚澳门天天开彩免费】

下载中心

视频封面

视频名称:零基础如何学编程?

大小: 9.2GB 下载:(638594) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:顶流大熊猫丫丫容光焕发,吃播自如,细嚼慢咽,美食吃得贼香!

大小: 7.7GB 下载:(36414) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:《自动驾驶条例》明年实施,机器人车队真的要来了?一口气看24集,越看越上瘾,真是一部上头都市爱情剧

大小: 6.9GB 下载:(511607) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:《永夜星河》:东方奇幻美学的创新表达

大小: 4.9GB 下载:(337845) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:足不出沪云游12国丨进博集市发现世界的美

大小: 2.7GB 下载:(896074) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:让老百姓过上更好的日子

大小: 9.7GB 下载:(603890) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:特朗普重返白宫,中方迎来新机会?美媒提前认输,又让中国赢一局

大小: 1.8GB 下载:(592605) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:辽宁反腐风暴再起:退休局长张迎被查,公众信任何以为继?

大小: 2.7GB 下载:(254475) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:暗示不排除12月暂停?美联储如期降息25基点,但删除对通胀达标更有信心说辞

大小: 2.9GB 下载:(492067) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:2024年南部战区海军面向社会公开招考专业技能类文职人员(附岗位表)

大小: 9.1GB 下载:(501257) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:夜骑开封被按下“暂停键”,真的挺好的!

大小: 9.8GB 下载:(384167) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:晨意帮忙丨“钢带异常乘8人,生命仅一次!”长沙一写字楼电梯提示引人不适,物业回应习仲勋事迹终于播出!靳东于和伟主演,我敢说:它很快会火向全国

大小: 1.7GB 下载:(104447) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:陈欧隐身,聚美优品落幕:见证中国电商时代的一朵浪花消逝

大小: 6.2GB 下载:(346725) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“银河左岸”音乐节燃爆禅城:音乐盛宴即将开启

大小: 6.3GB 下载:(751357) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:最新!美国16个州和华盛顿特区结束大选投票!美媒预测特朗普暂获101张选举人票,哈里斯暂获52张

大小: 6.5GB 下载:(233253) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:大树砸中豪车,引发不同的悲喜现象大妈喜摘果子,车主有苦难言

大小: 5.8GB 下载:(827958) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:视觉山东一周图选(2024年第46期)

大小: 8.9GB 下载:(950430) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:未来能超越巴伦的,只有马斯克小儿子了,穿着尿不湿参与国家大事

大小: 1.5GB 下载:(967982) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:刷短视频“上瘾”,正在吞噬人的生存能力

大小: 4.3GB 下载:(717928) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“转化魅力”:我对男生祛魅的办法就是把他们的优点变成我的

大小: 9.7GB 下载:(51303) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:新官上任后,澳优乳业首张成绩单如何?2个老婆的杨议,选了小老婆,闯入大老婆家,搬走贵重物品

大小: 8.7GB 下载:(625926) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:为文明共生贡献中国智慧 五粮液博鳌唱响“和美”之声

大小: 8.8GB 下载:(820162) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:ESK投资理念:经济、社会与知识的“三重奏”

大小: 2.1GB 下载:(719762) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:中国共产党百年法治思想的主要内容、特点与经验

大小: 4.6GB 下载:(567615) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:打破冠军荒!丁俊晖时隔11年再登顶国锦赛 夺生涯第15个排名赛冠军

大小: 2.4GB 下载:(857283) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:挪威海产局与挪威渔业和海洋政策部长齐亮相第七届中国国际进口博览会——立冬享挪威海鲜

大小: 5.4GB 下载:(43530) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:增加地方化债资源10万亿,如何理解“力度最大”的化债行动?券商集体解读:财政化债思路重大优化,居民和企业收入预期得到改善

大小: 2.6GB 下载:(892178) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:今晚芒果台将在线摆摊,天猫双11晚会嘉宾玩疯了!

大小: 9.8GB 下载:(79637) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:战争无法避免?有的国家还不知道,自己离大祸临头不远了

大小: 4.9GB 下载:(940193) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:一周放出30万只蚊子!广州一乡村“以蚊治蚊”预防登革热“别人都说我是圆脸,演不了主角”

大小: 3.1GB 下载:(239495) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:3台风共舞! “银杏”逼近, “桃芝”和“万宜”生成! 后面还有“天兔”

大小: 5.6GB 下载:(281765) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)

评论

打开APP查看25条评论

ichi

3秒前

/

黄宇文

5分钟前

作者 | 程茜编辑 | 漠影

太仁镐

1天前

我上传了一段《美女与野兽》中“野兽”的一段视频,视频中“野兽”的五官与人类类似,还伴随着大吼的动作。

发表您的评论: