一、VAE概念
VAE称为”变分自编码器”(Variational Autoencoder,VAE)是由Diederik P. Kingma和Max Welling提出的一种人工神经网络结构,属于概率图模式和变分贝叶斯方法。
VAE模型有2种功能:
1、滤镜
就像是PS、抖音、美图秀秀等用到的滤镜一样,让出图的画面看上去不会灰蒙蒙的,让整体的色彩饱和度更高。
2、微调
部分VAE会对出图的细节进行细微的调整(个人觉得变化并不明显仅会对细节处微调)Stable Diffusion在绘画过程中必需要有VAE模型,一般大模型都包含了VAE所以就不需要单独下载VAE。
二、打开VAE设置
stable-diffusion-webui 默认页面并没有显示 VAE 设置部分,所以需要先设置一下。首先点击「Settings」,然后点左侧菜单的「User interface」这个 Tab,拉到下面有个选项叫做Quicksettings list
,在输入框里面添加,sd_vae,CLIP_stop_at_last_layers
:
最后点击上面的「Apply settings」,在点「Reload UI」就会重新刷新页面,即可看到头部的 VAE 区域:
另外,顺手打开了Clip skip,在 C 站的图片参数中都有Clip skip选项,默认是 1,需要改成常用的 2,可以简单的理解这个值越高,AI 就会省略越多的分类细项。
三、使用VAE
我们用angthing-v4.5模型来测试VAE对于图片的效果的对比。图1为未添加VAE模型的效果,图2为添加了VAE模型的效果。从图片对比可以看出来,添加VAE后图片颜色饱和度更高,色彩更艳丽。
此外,使用不同的VAE模型对最终出图的色彩饱和度都是有所不同的,接下来我们使用5个不同的VAE进行对比测试,大模型依旧是angthing-v4.5。
从下方图片的出图效果上可以看到,不同的VAE模型有不同的出图效果以及在细节形状上会有细微的调整(例如胸口领巾处)。
此外若使用的大模型它里面已经内置了VAE模型或无需添加VAE模型,如果额外在使用VAE模型,就可能会使得画面最终效果下降或者VAE模型无效。
接下来我们使用模型是“Anime Pastel Dream”(大家可以自行搜索下载),从出图来看无VAE时,出图颜色已经饱和度很不错了,那么在使用这类型大模型时,可以不添加VAE模型。
测试添加VAE模型出图效果来看,前3个VAE模型与无VAE效果基本一致,后2个VAE模型对图片的饱和度进行了调整。整体风格的选择就看各自的喜好了。
测试添加VAE模型出图效果来看,前3个VAE模型与无VAE效果基本一致,后2个VAE模型对图片的饱和度进行了调整。整体风格的选择就看各自的喜好了。
那么我们下载好VAE模型后,应该应该放在哪里呢?
我们可以放在文件夹路径:autodl-tmp/stable-diffusion-webui/models/VAE,如果你是本地部署运行的Stable-Diffusion,找到stable-diffusion-webui/models/VAE文件夹,把模型复制进去即可。
我们可以从哪里下载到VAE模型?有哪些VAE可以使用呢?
这里是我下载使用过的VAE模型,提供给大家进行参考,大家复制模型名前往huggingface搜索即可下载。
1、通用Vae文件.vae
2、grapefruitVAE_v1
3、kl-f8-anime2
4、vae-ft-ema-560000-ema-pruned
5、vae-ft-mse-840000-ema-pruned