新闻中心

ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

2024-07-12
浏览次数:
返回列表
同样是图生视频,PaintsUndo 走出了不一样的路线。

controlnet 作者 lvmin zhang 又开始整活了!这次瞄准绘画领域。

新项目 PaintsUndo 刚上线不久,就收获 1.4k star(还在疯狂涨)。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

项目地址:https://github.com/lllyasviel/Paints-UNDO

通过该项目,用户输入一张静态图像,PaintsUndo 就能自动帮你生成整个绘画的全过程视频,从线稿到成品都有迹可循。

ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

绘制过程,线条变化多端甚是神奇,最终视频结果和原图像非常相似:

ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

我们再来看一个完整的绘画过程。PaintsUndo 先是用简单的线条勾勒出人物主体,然后画出背景,涂上颜色,最后精调成和原图相似。ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

PaintsUndo 不止局限于单一图像风格,对于不同类型的图像,也会生成相应的绘画过程视频。

ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

戴着头巾的柯基犬眼神温柔地望向远方:

ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

用户也可以输入单张图像,输出多个视频:

ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

易标AI 易标AI

告别低效手工,迎接AI标书新时代!3分钟智能生成,行业唯一具备查重功能,自动避雷废标项

易标AI 135 查看详情 易标AI

不过,PaintsUndo 也存在缺点,比如处理复杂的构图存在困难,作者表示项目还在不断完善。

ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star

PaintsUndo 之所以如此强大,背后是一系列模型的支持,它们以图像作为输入,然后输出该图像的绘制序列。模型复现了各种人类行为,包括但不限于素描、上墨、着色、阴影、变换、左右翻转、颜色曲线调整、更改图层的可见性,甚至在绘制过程中更改整体思路。

本地部署过程非常简单,几行代码就能完成:

git clone https://github.com/lllyasviel/Paints-UNDO.gitcd Paints-UNDOconda create -n paints_undo python=3.10conda activate paints_undopip install xformerspip install -r requirements.txtpython gradio_app.py

模型介绍

项目作者在 Nvidia 4090 和 3090TI 上使用 24GB VRAM 进行推理测试。作者估计,在极端优化(包括权重卸载和注意力切片)的情况下,理论上 VRAM 需求最小约为 10-12.5 GB。PaintsUndo 预计可以在大约 5 到 10 分钟内处理一张图像,具体取决于相关设置,通常会得到时长 25 秒,分辨率为 320x512、512x320、384x448 或 448x384 的视频。

目前该项目发布了两个模型:单帧模型 paints_undo_single_frame 和多帧模型 paints_undo_multi_frame。

单帧模型采用 SD1.5 的修改架构,以一幅图像和一个操作步骤作为输入,输出一幅图像。假设一件艺术品通常需要经过 1000 次人工操作才能创作出来(例如一笔是一次操作),那么操作步长是 0-999 之间的整数。数字 0 是最终完成的艺术品,数字 999 是在纯白画布上绘制的第一笔。

多帧模型基于 VideoCrafter 系列模型,但没有使用原始 Crafter 的 lvdm,所有训练 / 推理代码完全从头开始实现。项目作者对神经网络的拓扑进行了很多修改,并且经过大量训练后,神经网络的行为与原始 Crafter 有很大不同。

多帧模型的整体架构类似于 Crafter,包含 5 个组件:3D-UNet、VAE、CLIP、CLIP-Vision、Image Projection。

多帧模型以两幅图像作为输入,输出两幅输入图像之间的 16 个中间帧。多帧模型的结果比单帧模型更加一致,但速度也慢得多,「创意」更少,并且仅限于 16 帧。

PaintsUndo 默认一起使用单帧模型和多帧模型。首先会用单帧模型推断大约 5-7 次,得到 5-7 个「关键帧」,然后使用多帧模型对这些关键帧进行「插值」,最终生成一个相对较长的视频。

参考链接:https://lllyasviel.github.io/pages/paints_undo/

以上就是ControlNet作者又出爆款!一张图生成绘画全过程,两天狂揽1.4k Star的详细内容,更多请关注其它相关文章!


# python  # 如何使用  # 该项目  # 可直接  # 新能源  # 一幅  # 日韩  # 就能  # 一张图  # 两天  # type  # controlnet  # follow  # git  # 工程  # 还在  # 越秀工厂网站建设费用  # 盐池seo网站优化  # 桃源网络推广和网站设计  # 网站收录排名优化方法  # 陆丰网站建设策划  # 寿光本地营销推广  # 西安seo顾问搜行者SEO  # 北京网站网络推广选择  # 庆云seo快排  # 长沙网络营销推广系统 


相关栏目: 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195


相关推荐: 输入命令如何换行  春运抢票准备什么  华为5g手机掉了怎么定位找回  如何区别固态硬盘  固态硬盘如何测试  如何学习typescript  笔记本如何使用固态硬盘  如何弄坏固态硬盘  电脑显示器上power是什么意思  折叠手机屏易坏吗为什么  如何测固态硬盘芯片  估值水平比较中市盈率E是什么意思  typescript 如何使用  苹果16日发售哪些机型  苹果16都有哪些亮点  对应市盈率是30X是什么意思  平板键盘nfc功能是什么意思  typescript怎么写react  8800日元等于多少人民币  typescript性能如何  营收和gmv区别_营收和gmv有什么区别  如何用好typescript  animal是什么意思  春运抢票如何快速抢到票  如何寻找和修复无法在 AI 中找到文件的问题  硬件如何执行命令  买的5g手机但是没有5g网络怎么办  折叠屏手机哪款最好  typescript学多久可以学会  苹果手机16新款颜色有哪些  市盈率估值1stdv是什么意思  单片机怎么做组合  如何修改域名解析  solidworks打开IGS文件作图教程  如何4k对齐固态硬盘  linux命令行如何使用中文输入法  阿里云盘修复工具怎么用  阿里云盘共享账户怎么用  j*a怎么处理json数组  vue中datediff函数怎么用  夸克加载什么要会员  单片机怎么进行排序操作  市盈率3.2是什么意思  个人征信不好如何恢复 个人征信不良的全面修复指南  市盈率负值是什么意思  i5 6500怎么装win7  春运抢票在哪儿抢票  自己如何安装固态硬盘  三星相机里power是什么意思  汽车中控导航机power线是什么意思 

搜索