新闻中心
视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效
近期,除了广受关注的大型语言模型持续占据头条,视频生成技术也在不断取得重大突破,多家公司已经相继发布了新的模型
首先,Runway作为最早探索视频生成领域的领头羊之一,升级了其Gen-2模型,带来了电影级别的高清晰度,令人瞩目。同时,视频生成的一致性也得到了重大改进
但是,这种一致性的提升似乎是以牺牲视频动态性为代价的。从 Gen-2 的官方宣传视频中可以看出,尽管集合了多个短片段,但每个片段的动态性相对较弱,难以捕捉到人物、动物或物体的清晰动作和运动。
近期,Meta 也发布了视频生成模型 Emu Video。从 Emu Video 的官方示例中可以看出,其视频的动态性比 Gen-2 有明显提高,但仍然局限于较为简单的动作。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
开发出了经典的文生图模型 Stable Diffusion 的公司 Stability.ai,也于近日发布了开源视频生成模型 Stable Video Diffusion (SVD),引发了开源社区的大量关注和讨论。SVD 效果能和 Gen-2 相当,通过测试样例能看出 SVD 生成的视频也相对缺少动态性。

在SVD论文中指出了目前SVD生成的视频存在动态性不足的问题
上述示例表明,生成有高度一致性且有丰富动态性的视频,让视频内容真正地动起来,是目前视频生成领域中的最大挑战。
在这方面,最新的研究成果 PixelDance 迈出了关键性的一步,其生成结果的动态性显著优于目前现有的其它模型,引起了业界的关注。

twitter上著名的ai博主@_akhaliq转发的pixeldance新闻已经获得了接近8万次浏览



在官网(https://makepixelsdance.github.io)中,PixelDance 给出了两种不同的视频生成模式。
有两种模式可以选择,第一种是基础模式(Basic Mode)。在这种模式下,用户只需要提供一张指导图片和文本描述,PixelDance 就能够生成一段高度一致且富有动态性的视频。指导图片可以是真实的照片,也可以是由现有的文生成图模型生成的
从展示的结果来看,真实风格、动画风格、二次元风格、魔幻风格,PixelDance 通通都可以解决,人物动作、脸部表情、相机视角控制、特效动作,Pixeldance 也都可以很好的完成。只能说一句 tql!

第二种是高级魔法模式(Magic Mode),给了用户更多发挥想象力和创造力的空间。在这种模式下,用户需要提供两张指导图片+文本描述,可以更好地生成更有难度的视频内容。网站中展示了用魔法模式做出的各种炫酷特效镜头。

除此之外,官网还展示了一个完全使用 PixelDance 制作的 3 分钟故事短片
非常震撼的一点是,使用 PixelDance 能按照用户预想的一个故事,制作每一个场景和对应的动作。不管是真实场景(如埃及、长城等),还是虚幻场景(如外星球),PixelDance 都能生成细节丰富、动作丰富的视频,甚至各种特效镜头也不在话下。
主人公北极熊先生的黑色礼帽和红色领结在各种场景中都得到了很好的保持。现在生成长视频已经不再是简单地拼凑不相关的短视频片段了!
而达到这样拔群的视频生成效果,并没有依赖复杂的数据集和大规模的模型训练,PixelDance 在公开的 WebVid-10M 数据集上仅用 1.5B 大小的模型就达到了上述效果。

论文地址:https://arxiv.org/abs/2311.10982
Glarity
Glarity是一款免费开源的AI浏览器扩展,提供YouTube视频总结、网页摘要、写作工具等功能,支持免费的镜像翻译,电子邮件写作辅助,AI问答等功能。
131
查看详情
重新写内容,不改变原意,改写成中文:请访问以下网址获取demo:https://makepixelsdance.github.io
在相应的论文《Make Pixels Dance: High-Dynamic Video Generation》中,作者指出了视频生成难以做出好效果的原因:相比于图片生成,视频生成具有特征空间显著更大、动作多样性显著更强的特点。这就导致了现有的视频生成方法难以学到有效的时域动作信息,生成的视频虽然图片质量较高,但动态性非常有限。
针对上述问题,PixelDance 提出了基于文本指导 + 首尾帧图片指导的视频生成方法,使得模型更充分地关注和学习视频的动态信息。
视频生成中,首帧图片提供了整个视频内容的框架和素材。同时,将上一个视频片段的尾帧作为下一个片段的首帧指导,可以生成更长的视频。视频文本描述则描述了视频动作的具体内容。而尾帧图片指导则为视频生成过程提供了结束状态的信息。作者提出了一种适配的方法,使得模型能够接受相对粗糙的图片作为指导,这使得用户可以使用基本的图片编辑工具来获得尾帧图片指导
官网的信息显示,目前还在积极地迭代模型效果中,未来 2-3 个月内就会放出人人可以试用的模型。目前,作者也提供了途径支持大家发送想要测试的样例,目前官网中已经放出了一些用户的测试样例:

如此看来,有了 PixelDance,只要有天马行空的想象力,人人都可以成为「百万特效大师」!
以上就是视频生成新突破:PixelDance,轻松呈现复杂动作与炫酷特效的详细内容,更多请关注其它相关文章!
# ai
# runway
# stable video
# 模型
# 在这种
# 增城网站建设设计
# 管理学作业营销推广
# 静海区自助营销推广公司
# 营销线上推广共同合作
# 可以看出
# 站上
# 提出了
# 很好
# 官网
# 开源
# 腾讯
# 出了
# 新突破
# stable diffusion
# 营销推广公司 咖啡
# 人生优化模板下载网站
# 运输业seo推广
# 佛山seo按天计费
# 天长集团网站建设方案
# 拼多多的软文营销推广
相关栏目:
【
行业资讯67740 】
【
技术百科0 】
【
网络运营39195 】
相关推荐:
市盈率292是什么意思
单片机是怎么复位的
debian和ubuntu的区别是什么
如何提高固态硬盘性能
iPhone无法打开YouTube原因分析与解决方案
轩逸e-power挡位b是什么意思
如何在一串数字前面去掉四位数的命令
power在录音笔上是什么意思
夸克转存中是什么意思
typescript能开发什么
域名解析后为什么要进行域名备案
一年多少周
苹果16哪些型号好用
联想手机如何输入命令行
如何将系统移到固态硬盘
选哪个折叠屏手机好用
typescript怎么加号
语音聊天软件哪个好 语音聊天软件2025排行榜
今天是农历多少号
春运高速高铁抢票攻略
固态硬盘如何检查
电动车power灯亮是什么意思
如何在固态硬盘上安装win7系统
新网站如何填写域名解析
双十一哪一天买比较便宜?
如何使用程序编译 执行的命令
performance是什么意思
满射为什么没有逆映射
锤子手机怎么不出5g
哪个品牌有折叠屏手机卖
华为交换机 配置 如何复制命令行
春运抢票哪里最火热
春运预约抢票能抢到吗
什么叫typescript
5G类似微信的聊天软件有哪些
typescript能干什么
折叠屏手机信号哪个最强
如何让固态硬盘坏掉
个人征信不好如何恢复 个人征信不良的全面修复指南
如何查看固态硬盘速度
怎么在typescript定义集合
win7怎么装扫描仪
linux如何打开命令窗口
爱奇艺fun会员可以几个人用?
unix时间戳转换公式
望远镜上power是什么意思
固态硬盘如何区分好坏
单片机显存怎么设置最佳
夸克缺什么登录不了
如何选购ssd固态硬盘


2023-11-24
浏览次数:次
返回列表