ファンサイトに戻る

PROMPT GUIDE

VAEとは?色がくすむ原因とVAEの選び方・設定のしかた

Stable Diffusion で「色がくすんで灰色っぽい」「全体が白っぽくぼやける」と感じたら、VAE(ブイエーイー)の設定を見直すと直ることがあります。この記事では、VAE とは何か、チェックポイント(モデル)や LoRA との違い、設定のしかたと、よくある失敗をまとめました。

最終更新: よみもの めやす 約3分

結論を先に

VAEは、AIが小さな「下書き(潜在画像)」の形で描いた絵を、最後に色のある画像へ変える部分です。合わないVAEを使ったり、VAEが入っていなかったりすると、色がくすむ・白っぽくなる・真っ黒になることがあります。多くのモデルはVAEが入っているので「自動」で使い、色がおかしい時だけモデルに合うVAEを選びます。

VAEとは?

VAEは、AIが描いた「下書き」を、私たちが見る色のある画像に変える部分です。

Stable Diffusion は、絵をそのまま大きなサイズで描くのではなく、縦横を小さくちぢめた「潜在画像(latent)」という下書きの世界で描いています。そのほうが計算が軽いからです。描き終わった下書きを、ふつうの画像(ピクセル)に戻す翻訳係が VAE(Variational AutoEncoder)です。翻訳係が合っていないと、形は同じでも色や明るさがおかしな画像になってしまいます。

img2img のように画像から始める時は、逆に画像を下書きに変える時にも VAE が使われます。そのため、VAE は生成の最初と最後の両方に関わっています。

VAEとチェックポイント・LoRAの違いは?

チェックポイントは絵を描く本体、LoRAは追加の学習、VAEは最後に色のある画像へ変える部分です。

名前役わりたとえると変えると何が変わる?
チェックポイント(モデル)絵を描く本体画家絵柄・得意なもの全体
LoRA本体に足す追加の学習画家が覚えた新しい描き方特定のキャラ・画風・服など
VAE下書きを色のある画像に変える仕上げの印刷係色の鮮やかさ・明るさ・細部のくっきり具合
プロンプト描いてほしい内容注文書何を描くか

りんかのコツ

  • VAEを変えても、ポーズや構図はほとんど変わらない。変わるのは色・明るさ・細部
  • 多くの配布モデルにはVAEが入っている(いわゆる焼きこみ)。その場合は別のVAEを選ばなくてよい
  • SD1.5用・SDXL用など、モデルの種類に合ったVAEを使う必要がある

色がくすむ・白っぽいのはVAEのせい?

よくある原因の1つです。VAEが入っていないモデルをVAEなしで使うと、色が灰色っぽくくすみやすくなります。

絵の形はきれいなのに、全体が白っぽい・霧がかかったよう・コントラストが弱い、という時は VAE を疑います。逆に、色が濃すぎる・焼けたようになる時は、VAE より CFG スケールが高すぎることのほうが多いです。症状で見分けると、原因を早く見つけられます。

よくある失敗原因直し方
色が灰色っぽくくすむVAEが入っていないモデルをVAEなしで使っているモデルの説明ページにあるVAEを選ぶ
全体が白っぽく、ぼやけて見えるモデルに合わないVAEVAEを「自動」か推奨のものに戻す
真っ黒な画像になるSDXLのVAEを半精度で計算して数値があふれた半精度で動くように直されたSDXL用VAEを使う・設定で精度を上げる
色が濃すぎる・焼けたようVAEよりCFGが高すぎることが多いCFGを下げる(VAEは原因でないことが多い)
細かい線や目がにじむVAEの相性・画像が小さい推奨VAEにする・高解像度化する
エラーで生成できないSD1.5用とSDXL用のVAEをまちがえたモデルと同じ種類のVAEを選ぶ

イラストの利用ルール

VAEの設定のしかたは?

VAE のファイルを決まったフォルダに入れ、ツールの VAE の欄で選びます。

VAEを設定する手順

  1. 使っているモデルの説明ページを読み、VAEが入っているか、推奨のVAEがあるかを確かめる
  2. VAEが必要な時は、推奨のVAEのファイルを入手し、ツールのVAE用のフォルダに入れる
  3. AUTOMATIC1111 や Forge では、設定の Stable Diffusion の項目にある「SD VAE」で選ぶ(画面の上に出しておくと切りかえが楽)
  4. ComfyUI では、VAEを読みこむノード(Load VAE)を置き、VAE Decode につなぐ
  5. 同じシードで、VAEを変える前と後の絵を見比べる
  6. 色が良くなった方を使い、モデルとVAEの組み合わせをメモしておく

VAE の欄の「Automatic(自動)」は、モデルと同じ名前のVAEがあればそれを使い、無ければモデルに入っているVAEを使う設定です(ツールの版によって動きが少し違うことがあります)。「None(なし)」はモデルに入っているVAEを使います。迷ったら、まず自動のまま試しましょう。

モデル:【モデル名】 / VAE:自動(モデルに内蔵) / 色がくすむ時 → VAE:【推奨のVAE名】に変えて同じシードで比べる
メモ:SD1.5のモデル → SD1.5用のVAE / SDXLのモデル → SDXL用のVAE(種類をまぜない)

VAEを変えると絵はどれくらい変わる?

形やポーズはほとんど変わらず、色の鮮やかさ・明るさ・細部のくっきり具合が変わります。

VAE は「仕上げの印刷係」なので、描かれる内容そのものは変わりません。合うVAEにすると、くすんでいた色がはっきりし、目や髪の細い線がくっきりすることがあります。反対に、すでにきれいな色で出ているなら、VAE を変える必要はありません。色の雰囲気を変えたいだけなら、VAE よりもプロンプトの配色の言葉や、彩度・コントラストの言葉で調整するほうが確実です。

色が焼ける原因になりやすい CFGスケールの決め方は CFGスケールとは?ステップ数・サンプラーの決め方 →

彩度・明るさ・コントラストをプロンプトで調整するなら 彩度・明るさ・コントラストのプロンプト →

LoRAの使い方と強さの決め方は LoRA の使い方(書き方・強さ・トリガーワード) →

VAEを比べる時に使うシード値の固定のしかたは シード値(seed)とは?固定・ランダム・同じ絵を出し直す方法 →

FAQ

よくある質問

VAEとは何ですか?

AIが小さな下書き(潜在画像)の形で描いた絵を、最後に色のある画像へ変える部分です。合わないと色や明るさがおかしくなります。

VAEは必ず設定しないといけませんか?

多くの配布モデルにはVAEが入っているので、自動のままで問題ないことが多いです。色がくすむ時や、モデルの説明で指定がある時だけ設定します。

色がくすむのはVAEが原因ですか?

よくある原因の1つです。VAEが入っていないモデルをVAEなしで使うと、灰色っぽくくすみやすくなります。モデルに合うVAEを選ぶと直ることがあります。

真っ黒な画像が出ます。

SDXLのVAEを半精度で計算した時に起きやすい症状です。半精度でも動くように直されたSDXL用VAEを使うか、ツールの設定で精度を上げてください。

VAEとLoRAはどう違いますか?

LoRAは絵の内容(キャラ・画風・服など)を変える追加の学習で、VAEは描き終わった絵を色のある画像に変える部分です。VAEを変えても、描かれる内容はほとんど変わりません。

RINKA WORLD

読んだあとは、りんかワールドで

MORE

あわせてどうぞ