AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]

AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]

一、VAE概念

VAE称为”变分自编码器”(Variational Autoencoder,VAE)是由Diederik P. Kingma和Max Welling提出的一种人工神经网络结构,属于概率图模式和变分贝叶斯方法。

VAE模型有2种功能:

1、滤镜

就像是PS、抖音、美图秀秀等用到的滤镜一样,让出图的画面看上去不会灰蒙蒙的,让整体的色彩饱和度更高。

2、微调

部分VAE会对出图的细节进行细微的调整(个人觉得变化并不明显仅会对细节处微调)Stable Diffusion在绘画过程中必需要有VAE模型,一般大模型都包含了VAE所以就不需要单独下载VAE。

二、打开VAE设置

stable-diffusion-webui 默认页面并没有显示 VAE 设置部分,所以需要先设置一下。首先点击「Settings」,然后点左侧菜单的「User interface」这个 Tab,拉到下面有个选项叫做Quicksettings list,在输入框里面添加,sd_vae,CLIP_stop_at_last_layers:

AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]

最后点击上面的「Apply settings」,在点「Reload UI」就会重新刷新页面,即可看到头部的 VAE 区域:

AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]

另外,顺手打开了Clip skip,在 C 站的图片参数中都有Clip skip选项,默认是 1,需要改成常用的 2,可以简单的理解这个值越高,AI 就会省略越多的分类细项。

三、使用VAE

我们用angthing-v4.5模型来测试VAE对于图片的效果的对比。图1为未添加VAE模型的效果,图2为添加了VAE模型的效果。从图片对比可以看出来,添加VAE后图片颜色饱和度更高,色彩更艳丽。

AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]
AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]

此外,使用不同的VAE模型对最终出图的色彩饱和度都是有所不同的,接下来我们使用5个不同的VAE进行对比测试,大模型依旧是angthing-v4.5。

从下方图片的出图效果上可以看到,不同的VAE模型有不同的出图效果以及在细节形状上会有细微的调整(例如胸口领巾处)。

AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]

此外若使用的大模型它里面已经内置了VAE模型或无需添加VAE模型,如果额外在使用VAE模型,就可能会使得画面最终效果下降或者VAE模型无效。

接下来我们使用模型是“Anime Pastel Dream”(大家可以自行搜索下载),从出图来看无VAE时,出图颜色已经饱和度很不错了,那么在使用这类型大模型时,可以不添加VAE模型。

测试添加VAE模型出图效果来看,前3个VAE模型与无VAE效果基本一致,后2个VAE模型对图片的饱和度进行了调整。整体风格的选择就看各自的喜好了。

AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]

测试添加VAE模型出图效果来看,前3个VAE模型与无VAE效果基本一致,后2个VAE模型对图片的饱和度进行了调整。整体风格的选择就看各自的喜好了。

AI教程|Stable Diffusion入门:VAE模型[疯语咒AI]

那么我们下载好VAE模型后,应该应该放在哪里呢?

我们可以放在文件夹路径:autodl-tmp/stable-diffusion-webui/models/VAE,如果你是本地部署运行的Stable-Diffusion,找到stable-diffusion-webui/models/VAE文件夹,把模型复制进去即可。

我们可以从哪里下载到VAE模型?有哪些VAE可以使用呢?

这里是我下载使用过的VAE模型,提供给大家进行参考,大家复制模型名前往huggingface搜索即可下载。

1、通用Vae文件.vae

2、grapefruitVAE_v1

3、kl-f8-anime2

4、vae-ft-ema-560000-ema-pruned

5、vae-ft-mse-840000-ema-pruned

(0)
上一篇 2023年9月21日 上午9:50
下一篇 2023年9月21日 上午11:41

更多相关内容

开始你的AI探索之旅,开启无限可能,学习AI道路上我们一起前进。