ComfyUI Flux.1 [schnell]で高パフォーマンスのGGUFを使うには

今回はComfyUI Flux.1[schnell]でGGUFを使う方法を解説します。Flux.1で量子化GGUFを使う場合は専用モデルと専用カスタムノードをつかいます。GGUFを使うことでパフォーマンスを向上できるのでおススメします。

🔍PCfrom Amazon

1

ASUS ゲーミングデスクトップPC ROG Strix G13CHR GeForce RTX 4060 インテル Core i5 14400F メモリ32GB SSD1TB Windows11 動画編集 エクストリームダークグレー G13CHR-51440F158W/A

ASIN:B08H21HKTX

Amazonで見る

2

【Amazon.co.jp限定】 ASUS ゲーミングノートPC TUF Gaming A15 FA507NVR 15.6型 RTX 4060 Ryzen 7 7435HS メモリ16GB SSD1TB リフレッシュレート144Hz RGB イルミネートキーボード Windows 11 動画編集 Xbox Game Pass 3ヶ月利用権付き FA507NVR-R74R4060T

ASIN:B0CWVCYZC5

Amazonで見る

3

【Amazon.co.jp限定】【Core i7 & RTX 4060搭載・薄型軽量スケルトン】MSIゲーミングノートPC Cyborg15 1.98kg Corei7 RTX4060/15.6インチ FHD/144Hz/16GB/512GB/Windows 11/Cyborg-15-A13VFK-1002JP

ASIN:B0CTKCP81B

Amazonで見る

4

mouse 【RTX5090搭載 / 3年保証】 ゲーミングPC デスクトップPC G TUNE FZ (Core Ultra 9 プロセッサー 285K RTX 5090 128GB メモリ 2TB SSD 無線LAN 水冷CPUクーラー 動画編集 ゲーム) FZI9G90GB12SKW104AZ

ASIN:B0F3XFJG7K

Amazonで見る

5

UNFINITY ゲーミングPC UNF4060-V3EX(i5-12400F / 32GB / RTX4060 / NVMe M.2 SSD 1TB / Windows11 home

ASIN:B0F14223F6

Amazonで見る

6

【最新第13世代 Core i9 HX & RTX 4090搭載・ウルトラハイエンド】MSIゲーミングノートPC RaiderGE78HX i9HX RTX4090/17型 WQXGA/240Hz/32GB/2TB/Windows11/Raider-GE78HX-13VI-2803JP

ASIN:B0BVBM5T8F

Amazonで見る

7

ガレリア ゲーミングPC GALLERIA RM7R-R46 RTX 4060 Ryzen 7 5700X メモリ32GB SSD1TB Windows11 動画編集 2年保証 ガンメタリック

ASIN:B0DVGTSGPM

Amazonで見る

8

Corsair ONE i500 ゲーミングPC – 液体冷却インテル Core i9-14900F CPU – NVIDIA GeForce RTX 4070 Super GPU – 32GB Vengeance DDR5メモリ – 1TB M.2 SSD – ウッドダーク

ASIN:B0DVGR26WW

Amazonで見る

9

ゲーミングPC デスクトップ パソコン ドスパラ Diginnos Core i7-12700 - RTX 3060 12G - 32GBメモリ - SSD2.0TB - Windows 11 - THIRDWAVE ゲームPC VR 生成AI (整備済み品)

ASIN:B0DSS2DHFC

Amazonで見る

10

Dell ノートパソコン Alienware m18 R2 18インチ Intel Core i7-14700HX GeForce RTX 4070 メモリ16GB SSD2TB Windows 11 ダークメタリックムーン NAM9H28A-EHLB

ASIN:B0D2KJT7DL

Amazonで見る

GGUFとは

GGUF(GPT-Generated Unified Format)とは2023年8月にllama.cppチームによって発表されたファイル形式で、それまでのGGML(GPT-Generated Model Language)では対応できなかったモデルに対応したり、さらなる汎用性・拡張性を持っています。イラスト生成AI分野ではではsafetansorやbinファイルを量子化変換して公開されています。ご自身でGGUFファイルを作りたい方は公式のリポジトリをクローンして「convert-hf-to-gguf.py」を使って変換することもできます。

ggerganov/llama.cpp · GitHub

https://github.com/ggerganov/llama.cpp

🔗外部リンク

ComfyUI Flux.1 [schnell]でGGUFを使うには

モデルのダウンロード

ComfyUI Flux.1[schnell]でGGUFを使うにはcity96氏が公開しているモデルをダウンロードしましょう。リポジトリには2-bit(Q2_K)から16-bit(F16)まで並んでいるので後ほど説明する「量子化について」を参考にご自身の環境に適したモデルをダウンロードしましょう。

city96/FLUX.1-schnell-gguf · Hugging Face

https://huggingface.co/city96/FLUX.1-schnell-gguf/tree/main

🔗外部リンク

量子化について

city96/FLUX.1-schnell-ggufの量子化のタイプは下記の表の様になっています。

基本的にはビット数が多い程、精度が上がります。その代わりVRAM消費も上がりますのでご自身の環境にあったタイプを使いましょう。

VRAM別オススメタイプ

表をみてもいまいちわからない方に下記のオススメを載せておきます。

• 24GB VRAM：Q8_0
• 16GB VRAM：Q6_K
• 12GB VRAM：Q5_K_S
• 10GB未満のVRAM：Q4_0またはQ4_1

カスタムノードのインストール

ComfyUIでGGUFをつかうにはカスタムノードの「ComfyUI-GGUF」が必要になります。「Custom Nodes Manager」を使ってComfyUI-GGUFを検索してインストールしましょう。

city96/ComfyUI-GGUF · GitHub

https://github.com/city96/ComfyUI-GGUF

🔗外部リンク

カスタムノードのインストール方法が分からない方は下記の記事にて詳しく解説しているのでご参照ください。

【AIイラスト】ComfyUI お勧めカスタムノードの紹介

🔗あわせて読みたい

量子化されたT5 v1.1 XXLエンコーダーのインストール（オプション）

city96氏が公開しているT5 v1.1 XXLエンコーダーのGGUFファイルを使うことでさらなるパフォーマンスを発揮できます。モデルと同じ量子化ファイルをダウンロードしましょう。

city96/t5-v1_1-xxl-encoder-gguf · Hugging Face

https://huggingface.co/city96/t5-v1_1-xxl-encoder-gguf/tree/main

🔗外部リンク

ComfyUI Flux.1 [schnell] + GGUFを使ったワークフロー

　

ここからは実際にモデルを使ってワークフローを使ってみましょう。このワークフローでは下記のモデル・カスタムノードを使用していますのであらかじめダウンロード・インストールしておきましょう。また、ComfyUIのバージョンが古いと上手く動かないことがあるので最新版にアップデートしましょう。

• flux1-schnell-Q8_0.gguf：今回紹介しているFlux.1 [schnell]の8ビット量子化モデル
• t5-v1_1-xxl-encoder-Q8_0.gguf：8ビットに量子化されたT5 v1.1 XXLエンコーダー
• ComfyUI-GGUF：GGUF形式ののUnetとCLIPを読み込むためのカスタムノード
• Image chooser：カスタムノードで1st Passの結果を確認する為に実装、これにより生成時間が短い1st Passを満足のいく構成が出るまで簡単に再実行できます。
• 🔗aki_anime.safetensors：アニメスタイルのLoRAモデル
• 🔗hinaFluxFantasyArmorMix-schnell_v1-rev1.safetensors：ファンタジー調の鎧を生成してくれるLoRA
• 🔗clip_l.safetensors：Flux.1の標準テキストエンコーダー
• 🔗ae.safetensors：Flux.1の標準VAE

ワークフローはPatreonで公開していますが、有料サポーター様のみ閲覧・ダウンロードが可能となっています。1か月だけでも有料サポーターになっていただければ執筆の励みになりますので、よろしければ入会をお願い致します。

How to use high performance GGUF with ComfyUI Flux.1 [schnell] | Digital Creative AI | PATREON

https://www.patreon.com/posts/how-to-use-high-115260684

🔗外部リンク

また、ワークフローがダウンロード出来なくでも解説を見ればご自身でも構成できるので、このまま解説にお進みください。

Basic Info

　

• Unet Loader (GGUF)：GGUFのUnetを読み込みます。unet_nameにflux-schnell-Q8_0.ggufを選択します。
• DualCLIPLoader (GGUF)：GGUFのテキストエンコーダーモデルを読み込みます。clip_nameにclip_l.safetensorsとt5-v1_1-xxl-encoder-Q8.ggufを選択しましょう。
• Load LoRA：LoRAを読み込みます。lora_nameにaki_anime.safetensors、strength_modelには少しだけベースモデルを反映させたいので0.80にします。さらにLoRAを適応させていのでもう一つLoad LoRAを配置してlora_nameにhinaFluxFantasyArmorMix-schnell_v1-rev1.safetensors、strength_modelは顔への影響があったので0.60にします。
• Empty Latent Image：今回は1280 x 720にします。batch_sizeは1のまま使用します。
• ModelSamplingFlux：タイムステップスケジューリングシフトの設定です。FLUX.1 [schnell] で使う場合はmax_shiftは0.0～2.0辺りで設定しましょう。今回は2.0に設定します。また、base_shiftは反映されないので0または、デフォルトの0.5で使いましょう。widthとheightはデフォルトの1024で問題ありません。場合によってはこのノードをバイパスした方が良い結果が得られる場合も在ります。
• CLIP Text Encode (Prompt)：基本的にはT5XXLが自然言語を得意としているので自然言語のみでも問題ありませんが、CLIP Lも使われているのでDanbooruスタイルも使うことができます。今回は下記のプロンプトを使います。

  A beautiful blonde girl stands on a hillside under a blue sky.
  She looks like an angelic knight with a halo ring.
  She gazes at the viewer.
  She opens her white wings.
  Many white feathers in the sky.
  The girl's head is adorned with jewels.
  
  The theme is teal and orange.
  
  
  (The old castle is on top of a hill:0.85).
  
  horizonin view, 50mm lens portrait, correct perspective, (anime kawaii face with detailed eyes:1.3), medival fantasy, water fall, authentic (no credits, no signature.:1.1), (detailed fantasy white and gold armor:1.2)

  📋
  ネガティブプロンプトは反映されないので空白のまま使います。
• Load VAE：VAEを読み込みます。vae_nameにはae.safetensorsを選択してください。
• Primitive (Seeds)：Seedを外部化して1st Passと2nd Passのシード値を共有しています。

1st Pass

　

1st PassはComfyUIの標準サンプラーをつかいます。過去の記事で紹介している「SamplerCustomAdvanced」で構成しても問題ありません。

• KSampler：seedは外部化してPrimitive (Seeds)より値を取得しています。stepsは2を使います。cfgはFlux.1[schnell]推奨の1.0に設定します。sampler_nameをeuler、schedulerをbetaに設定して、denoiseを1.00に設定します。
• VAE Decode：サンプラーにて生成されたラテントイメージをピクセルイメージにデコードします。

Preview Chooser

　

1st Passで生成された結果を確認する為に配置しています。気に入ったイラストが生成されたら選択して「Progress selected image」ボタンで次に進めましょう。

Upscale

　

• Load Upscale Model：アップスケーラーモデルを選択します。今回は4x-UltraSharp.pthを使用します。
• Upscale Image (using Model)：アップスケーラーモデルを使用する為に使います。
• Scale Image to Total Pixels：アップスケーラーモデルを使って４倍に拡大された画像を任意の大きさに縮小します。今回は3.00に指定して３メガピクセルのイラストに拡大します。PCのスペックが十分な方は5.00にするとさらに鮮明なイラストを生成できます。
• VAE Encode：スケールアップした画像を2nd Passに送るためにラテントイメージにエンコードします。

2nd Pass Info

　

• ModelSamplingFlux：2nd Passでは大きく構図を変えたくないのでmax_shiftを0.15にします。
• CLIP Text Encode (Prompt)：2nd Pass用に下記の様なシンプルなプロンプトを使います。

  very detailed, masterpiece, intricate details, UHD, 8K

  📋

2nd Pass

　

2nd Passはほとんど1st Passと同じ設定にしていますが、denoiseのみ0.35に設定して元の構図を崩さないようにしています。

Preview Image

最終結果になります。画像を保存したい場合は右クリックメニューから「Save Image」を選択するか、このノードを「Save Image」に変更してください。

以上がワークフローの解説になります。

最終結果

まとめ

いかがでしたか？GGUFを導入することでヘビー級のFlux.1が快適に動くようになったのではないでしょうか？city96氏のHugging FaceではFlux.1[shnell]の他にもFlux.1[dev]、SD3.5 largeやsd3.5 large turboモデルも公開していますので興味のある方は試してみると良いでしょう。

さて、今回でFlux.1[schnell]の記事が3回目となりましたが、モデル界隈ではあまり盛り上がっていないようです。恐らくFlux.1[schnell]はモデルサイズの軽量や速度の向上を目的とした蒸留（distillation）モデルなのであまり融通が利かない事が原因と思われます。この理由でControlNetが使えなかったりファインチューニングが出来なかったりもします。しかし、ostris氏が公開している「🔗OpenFlux.1」でFlux.1[schnell]の蒸留モデル部分が取り除かれたので、もしかするとControlNet等が登場するかもしれません。

🔍Monitorsfrom Amazon

1

【Amazon.co.jp限定】ASUS モニター Eyer Care VZ249HR 23.8インチ/フルHD/IPS/薄さ7mm/ブルーライト軽減/フリッカーフリー/HDMI D-sub/スピーカー/3年保証

ASIN:B07LH1ZDSL

Amazonで見る

2

【Amazon.co.jp 限定】アイ・オー・データ IODATA モニター 23.8インチ ブラック ADSパネル 非光沢 省電力 (HDMI/アナログRGB/スピーカー付/VESA対応/土日サポート/日本メーカー/無輝点保証) EX-A241DB

ASIN:B0CPXQQLL2

Amazonで見る

3

Xiaomi モニター A24i ディスプレイ 23.8インチ フルHD 1920x1080 IPSパネル 100Hz 超薄型 6ms ブルーライト VESAマウント対応

ASIN:B0CWS1T7PW

Amazonで見る

4

PHILIPS モニターディスプレイ 241E1D/11 (23.8インチ/IPS Technology/FHD/5年保証/HDMI/D-Sub/DVI-D/フレームレス)

ASIN:B07V47WQD8

Amazonで見る

5

KEEPTIME モバイルモニター 15.6インチ 1920*1080 モバイルディスプレイ ポータブルモニター IPS液晶パネル 非光沢画面 薄型 軽量 マグネット保護カバー付き USB Type-C ミニHDMI PS4/XBOX/Switch/PC/Macなど対応 在宅勤務 リモートワーク

ASIN:B0D1K8H4F5

Amazonで見る

6

【Amazon.co.jp限定】MSI モニター PRO MP2412 23.8インチ/フルHD/VAパネル/100Hz/1ms/ブルーライトカット/アンチフリッカー/HDMI/DP/VESA対応/メーカー3年保証

ASIN:B0CDBS93QZ

Amazonで見る

7

PHILIPS 液晶ディスプレイ PCモニター 272E2FE/11 (27インチ/5年保証/FHD/IPS/D-Sub 15,HDMI,Display Port/昇降・高さ調節/チルト/4面フレームレス/FreeSync(HDMI,DP)ちらつき防止/ブルーライト軽減)

ASIN:B08PTSY9PL

Amazonで見る

8

【Amazon.co.jp限定】Dell ハイスペック 23.8インチ ホワイトモニター(5年保証/FHD/IPS,非光沢/縦横回転,高さ調整/5Wx2スピーカー/HDMIx2) S2425HS-A

ASIN:B0CXXC87JK

Amazonで見る

9

【整備済み品】 HP P224 ディスプレイ 21.5インチ (整備済み品)

ASIN:B0B6BM6Z8L

Amazonで見る

10

KOORUI モニター 21.5インチ pcモニター 100Hz フルhd 液晶ディスプレイ VAパネル非光沢 スリムベゼル/アイケア・ブルーライト軽減/傾き調整/HDMI＋VGAポート/VESAマウント対応,E2212F

ASIN:B0C6DSXXJV

Amazonで見る