Design wechseln

ComfyUI mit wenig VRAM beschleunigen: SDXL, FLUX und Video auf 6–8-GB-GPUs

Easton editorial illustration: one compact charcoal graphics card with an orange 8GB VRAM gauge, one small ComfyUI-style node chain passing through the GPU memory window

"Die offizielle ComfyUI-Dokumentation zu Startup Flags führt lowvram, novram, reserve-vram, Async Offload, Cache und Attention auf. Prüfe das Verhalten mit der aktuellen Dokumentation und main.py --help."

Im Terminal steht torch.cuda.OutOfMemoryError: CUDA out of memory. Die ComfyUI-Konsole meldet regular VAE encoding, retrying with tiled VAE encoding, doch das Bild mit 1024×1024 Pixeln wird trotzdem nicht fertig. Eine RTX 3060 mit 8 GB schafft ein einzelnes SDXL-Bild. Sobald Hires Fix, FaceDetailer und ControlNet dazukommen, steigt der Bedarf jedoch auf mehr als 12 GB. Mit 768×768 und deaktiviertem ControlNet läuft es gerade noch, aber die gewünschte Qualität fehlt.

Auf einer Consumer-GPU mit 6–8 GB, Apple Silicon oder AMD-Hardware geht es deshalb darum, SDXL, FLUX und leichte Video-Workflows in ComfyUI möglichst stabil auszuführen und die Kosten jeder Anpassung bei Geschwindigkeit, Qualität und Kompatibilität zu kennen.


Zuerst die VRAM-Klasse der GPU bestimmen

Ein VRAM-Budget ist keine Schätzung aus dem Bauch. Die Klasse deiner GPU bestimmt, welche Workflows realistisch sind und welche Strategie zuerst sinnvoll ist.

VRAM-Klassen, mögliche Workflows und geeignete Startpunkte

VRAMMögliche WorkflowsGrenzen und RisikenEmpfohlener Start
6GBSDXL mit niedriger Auflösung (512–768)
Stark komprimiertes FLUX (Q2_K/Q3_K_S + GGUF + —lowvram/—novram)
Video: 8 Frames bei 480p als Grenzfall
Begrenzte Auflösung
Zusatz-Nodes führen schnell zu OOM
Langsam durch RAM-Offloading
Starke Quantisierung wie Q3_K_S
Auflösung bei 512–768 halten
ControlNet und Nachbearbeitung deaktivieren
Höchstens 8 Videoframes
8GBEinzelnes SDXL-Bild mit 1024×1024
FLUX fp8/GGUF Q4_K_S ohne Stabilitätsgarantie
8 Frames bei 480p gut, 24 Frames bei 720p als Grenzfall
ControlNet und Hires Fix zusammen führen schnell zu OOM
T5 braucht fp8/GGUF
Höchstens 1024×1024
FLUX.1 GGUF Q5_K_S ist ein Grenzfall
FLUX.2 Klein 4B GGUF bevorzugen
T5 fp8/GGUF
Tiled VAE verwenden
batch size=1
12GBSDXL + ControlNet + einfaches Upscaling
FLUX Q5_K_S/Q6_K gut nutzbar
24 Frames bei 720p gut, 60 Frames bei 1080p als Grenzfall
Mehrere ControlNets weiter begrenzen
Frames × Auflösung berücksichtigen
Nachbearbeitung bleibt endlich
FLUX Q5_K_S/Q6_K
T5 fp8 optional
Tiled VAE optional
batch size 2–3 testen
16GB+FLUX full fp16 oder nahezu verlustfreies Q8_0
Mehr Spielraum für ControlNet/LoRA
60 Frames bei 1080p
FLUX full ist etwa 23 GB groß
Frames × Auflösung bleiben relevant
Nachbearbeitung erzeugt weiter Spitzen
FLUX Q8_0 oder fp16
T5 fp16
Tiled VAE optional
batch size 4–8 testen

Typische Spitzenverursacher, absteigend

  1. Modellgewichte: SDXL-Checkpoint etwa 6,5 GB, FLUX fp16 etwa 23 GB
  2. T5-Encoder: fp16 etwa 9 GB und damit zu groß für 8 GB, fp8 etwa 4–5 GB, GGUF in Q3/Q4/Q5
  3. Latent-Auflösung: Ein Latent mit 2048×2048 kann sich 8 GB nähern
  4. VAE Encode/Decode: Bei 2048×2048 sind Spitzen um 8 GB möglich
  5. Batch-Größe: Gleichzeitige Inferenz erzeugt die höchste Spitze
  6. ControlNet/Detailer: Jeweils etwa 2–3 GB in den genannten Beispielen
  7. Videoframes: Frames × Auflösung × VideoVAE
  8. Cache/Preview: ungefähr 0,5–1 GB

Der tatsächliche Verbrauch hängt von Auflösung, Präzision, Modellversion, Batch, Nachbearbeitungs-Nodes, Videoframes, PyTorch- und Treiberversion sowie Custom Nodes ab. Abweichungen von 1–2 GB sind möglich. Nutze die Tabelle als Startbudget und miss anschließend den echten Workflow.


Startparameter für ComfyUI mit wenig VRAM

ComfyUI bietet mehrere Startparameter für VRAM und Arbeitsspeicher. Sie ändern sich mit den Versionen. Die folgende Übersicht bezieht sich auf ComfyUI v0.18.0+ um März 2026. Maßgeblich bleiben python main.py --help und die aktuelle offizielle Dokumentation.

Startparameter, Zweck, GPU-Klasse und Geschwindigkeit

ParameterZweckGPU-KlasseGeschwindigkeitEinsatz
--lowvramTeilt das Modell und streamt Teile aus dem RAM4–8GB20–40% langsamerOhne Wirkung bei aktivem Dynamic VRAM
Manuell nach —normalvram testen
--novramHält Gewichte in CPU/RAM und verschiebt nur aktive Berechnungen zur GPUUnter 4GB50–70% langsamerLetzter Ausweg
Sehr langsam, kann aber laufen
--normalvramErzwingt den Standardmodus und deaktiviert Dynamic VRAM12GB+Keine erwartete ÄnderungFür manuellen —lowvram-Test
Oder bei Fragmentierungs-OOM
--reserve-vram NReserviert N GB VRAM für das BetriebssystemAlleKeine erwartete ÄnderungSchützt vor Systemproblemen
Oft 2–4GB reservieren
--async-offloadLagert Gewichte asynchron ausAlleBeispiel: 5–10% schnellerReduziert CPU-GPU-Warten bei reichlich RAM, meist 32GB+
--fp8_e4m3fn-unetErzwingt fp8 für UNet8–12GBEtwa neutralWird von FLUX oft ignoriert
Interne compute dtype beachten
--fp8_e4m3fn-text-encNutzt fp8 für den Text-Encoder8GBEtwa neutralSenkt T5 von etwa 9 auf 4–5GB
Für Low-VRAM-FLUX
--fp8_e5m2fn-text-encAlternative fp8-Variante für den Text-Encoder8GBEtwa neutralAlternative zu fp8_e4m3fn
--preview-method noneDeaktiviert VorschauenAlleEtwas schnellerSpart etwa 0,5–1GB
Erster OOM-Test
--cache-noneDeaktiviert den CacheWenig RAMLangsamerSpart RAM, berechnet aber Nodes neu
--cache-lru 10Hält 10 Ergebnisse im LRU-CacheViel RAMSchnellerAusgewogener Cache
10–20 testen
--cache-classicAlter aggressiver CacheViel RAMSchnellerKann mehr RAM benötigen
--force-fp16Erzwingt global fp16AlleEtwa neutralKann 2–3GB sparen
--use-pytorch-cross-attentionErzwingt PyTorch SDP AttentionAlleBeispiel: 5–20% schnellerComfyUI wählt oft automatisch xformers/SDP
Nur gezielt erzwingen
--use-flash-attentionErzwingt Flash AttentionAlleBeispiel: 5–20% schnellerBenötigt flash-attention
Nicht mit jeder CUDA-Version kompatibel
--fastExperimenteller SchnellmodusAlleUngewissFortgeschrittenes Experiment
Kann Qualität/Stabilität verändern
Keine 8GB-Standardeinstellung

Befehlsbeispiele

# Grundkonfiguration für 8 GB VRAM
python main.py --lowvram --force-fp16 --fp8_e4m3fn-text-enc --preview-method none

# Grenzkonfiguration für 6 GB VRAM
python main.py --novram --force-fp16 --fp8_e4m3fn-text-enc --preview-method none --reserve-vram 2

# Schnellere Konfiguration bei reichlich RAM
python main.py --async-offload --cache-lru 10 --use-pytorch-cross-attention

Veränderliche Angaben: Parameter können sich ändern. Verlasse dich auf python main.py --help und die aktuelle Dokumentation. FLUX kann --fp8_e4m3fn-unet wegen seiner internen compute dtype ignorieren; stelle bei Bedarf weight_dtype im Node ein.


Warum —lowvram den VRAM-Fehler nicht verhindert

ComfyUI v0.18.0+ um März 2026 aktiviert Dynamic VRAM standardmäßig. Ist es aktiv, wird --lowvram ignoriert, weil bereits eine adaptive Offloading-Strategie arbeitet.

--lowvram manuell verwenden

  • Nach dem Deaktivieren von Dynamic VRAM mit --normalvram
  • Bei Fragmentierungs-OOM in einem bestimmten Workflow --disable-dynamic-vram testen

Alternativen

  • Das Standardverhalten von Dynamic VRAM verwenden
  • --novram nur als letzten Ausweg nutzen und 50–70% Geschwindigkeitsverlust akzeptieren
  • Mit --reserve-vram 2-4 Platz für das Betriebssystem lassen

Vorteil von Dynamic VRAM: Es schätzt den Bedarf und lagert bei Bedarf automatisch in RAM aus.

Risiko von Dynamic VRAM: Einzelne Workflows können weiter durch Fragmentierung ausfallen. Dann lohnt ein Test mit --disable-dynamic-vram.


Drei FLUX-Wege für 8 GB: fp8, GGUF und Klein 4B

FLUX ist ein Modell mit 12 Milliarden Parametern; die Originaldatei ist etwa 23 GB groß. Für 8 GB gibt es drei Routen mit unterschiedlichen Kosten.

FLUX-Quantisierungswege

RouteDateigrößeVRAMQualität vs fp16GPUGeschwindigkeitKompatibilitätEinsatz
FLUX full (fp16)~23GB~20GB+100%24GB+Am schnellstenOffiziellProfessionell
Genug VRAM
FLUX fp8 checkpoint~12GB~11GB~95–98%12GB gut/16GB+Relativ schnellOffizielle QuantisierungAb 12GB
Eine Datei
FLUX GGUF Q8_0~12,7GB~11GB~99%12GB+/16GB+Langsamer durch Offloadcity96-Node, WIPAb 12GB
Nahezu verlustfrei
FLUX GGUF Q5_K_S~8,5GB~7,5GB~94–96%8GB Grenzfall/12GB gutLangsam durch Offloadcity96-Node, WIP8GB
Qualitätskompromiss
FLUX GGUF Q4_K_S~6,8GB~6,5GB~88–90%8GB/6GB GrenzfallAm langsamstencity96-Node, WIP6–8GB
Hauptsache ausführbar
FLUX.2 Klein 4B GGUF Q4_K_M~2,6GB~2,6GBEigenes Qualitätsniveau des 4B-Modells8GB gutVier Steps, schnellApache 2.0, city96-NodeFür 8GB
Vier Steps
Schnell

T5-Encoder

T5-VersionDateigrößeVRAMGPU
T5 fp16~9GB~9GB24GB+, zu groß für 8GB
T5 fp8_e4m3fn~4–5GB~4–5GBAuf 8GB praktikabel
T5 GGUF Q3/Q4/Q5~2–4GB~2–4GBGrenzfälle mit 6–8GB

Installation

Lade für fp8 die safetensors-Datei herunter, öffne sie mit Load Diffusion Model und stelle weight_dtype auf fp8_e4m3fn.

Installiere für GGUF die Custom Node ComfyUI-GGUF von city96, lade das Modell mit Unet Loader (GGUF) und lege die Datei unter models/unet/ ab.

Risiko der Drittanbieter-Node: GGUF ist als WIP markiert, LoRA-Unterstützung ist experimentell. Die Node ändert sich häufig und ist kein offizieller integrierter Pfad.

Qualitätsbeobachtung von Apatero: Q5_K_S liegt nahe an fp16; Unterschiede fallen vor allem bei Text und feinen Mustern auf. Q4_K_S verliert mehr Details.

Messung von Local AI Master

  • FLUX.1-dev Q4_K_S + —lowvram, 1024×1024, 20 Steps, RTX 3060 Ti 8GB: etwa 90–150 Sekunden
  • FLUX.2 Klein 4B Q4_K_M, 1024×1024, vier Steps, 8GB: etwa 15–30 Sekunden

Veränderlicher Benchmark: Hardware, Versionen und Workflow verändern diese Werte. Nutze sie als Referenzspanne.


OOM bei VAE Encode/Decode mit Tiled VAE senken

Bei 2048×2048 oder Video kann VAE Encode/Decode den VRAM erschöpfen. Tiled VAE verarbeitet das Bild in kleineren Bereichen und senkt die Spitze.

Nodes

VAEDecodeTiled decodiert das Latent tileweise in ein Bild. VAEEncodeTiled codiert ein Bild auf dieselbe Weise in ein Latent.

Parameter

ParameterZweckStartwertEinsatz
tile_sizeGröße eines Tiles512 bei wenig VRAM
1024 bei Reserve
Kleinere Tiles brauchen weniger VRAM, sind aber langsamer
Für 8GB bei 512 beginnen
overlapÜberlappung zwischen Tiles64Verhindert Nähte
32–128 testen
fast modeSchneller ModustrueMeist aktivieren
temporal_sizeZeitlicher Chunk nur für Video-VAE8 bei wenig VRAM
16 bei Reserve
Verarbeitet Frames in Gruppen
Nur für Video-VAE
temporal_overlapÜberlappung zeitlicher Chunks2–4Kontinuität zwischen Frame-Gruppen

Spitzenvergleich von SynpixCloud

AuflösungStandard-VAETiled 512Tiled 1024
1024×1024~2GB~0,5GB~1GB
2048×2048~8GB~1GB~2,5GB

Tiled VAE einsetzen bei

  • Auflösungen über 1024×1024
  • GPUs mit 8–12GB
  • Video-VAE-Workflows
  • OOM in Hires Fix, Upscale oder FaceDetailer

Hinweis zur Dokumentation: Die Node-Dokumentation ist als AI-generated gekennzeichnet. Prüfe UI und Parameter in deiner aktuellen ComfyUI-Version.


OOM nach der Quelle der VRAM-Spitze beheben

Bei CUDA out of memory prüfst du die größten Spitzen zuerst und wendest jeweils eine konkrete Reduktion an.

OOM-Tabelle

SpitzenquelleVRAM-BeispielReduktionPriorität
ModellgewichteSDXL ~6,5GB
FLUX fp16 ~23GB
Auf fp8/GGUF wechseln
—lowvram/—novram
P0
T5-Encoderfp16 ~9GBT5 fp8/GGUF mit kompatiblem LoaderP0 für FLUX
Latent-Auflösung2048×2048 ~8GBAuf 1024×1024 oder 512×512 senkenP1
VAE Encode/Decode2048×2048 bis etwa 8GBTiled VAE, tile_size=512, overlap=64P1
Batch-Größebatch size=4 bei 1024×1024 etwa 8–12GBbatch size=1
batch count in Queue
P2
ControlNet/DetailerJe etwa 2–3GBControlNet-Pfad deaktivieren
Low-VRAM-Route nutzen
P2
VideoframesFrames × Auflösung × VideoVAETemporal Chunking
Frames reduzieren
Tiled Video-VAE
P2 für Video
Cache/Preview~0,5–1GB—preview-method none
—cache-none
P3

Reihenfolge der Maßnahmen

  1. Auflösung senken: 2048 → 1024 → 512
  2. Preview deaktivieren: --preview-method none
  3. fp8/GGUF-Modell einsetzen: FLUX Q4_K_S, Q5_K_S oder Klein 4B
  4. T5 auf fp8/GGUF umstellen: Für Low-VRAM-FLUX wichtig
  5. Tiled VAE einsetzen: Mit tile_size=512 und overlap=64 beginnen
  6. Batch-Größe senken: batch size=1, batch count in die Queue
  7. ControlNet und Nachbearbeitung deaktivieren: FaceDetailer, Hires Fix, Upscale
  8. Bei Video: Frames senken und Temporal Chunking nutzen

Zwei Arten langsamer Generierung unterscheiden

Unterscheide zuerst zwischen „langsam, weil Offloading nötig ist“ und „unnötig langsam, weil eine Einstellung ungünstig ist“.

Geschwindigkeitstabelle

EngpassMerkmalDiagnoseAnpassung
Erwartete Low-VRAM-Verzögerung
—lowvram/—novram20–70% langsamerStartparameter prüfenVerzögerung akzeptieren
Oder GPU mit mehr VRAM
GGUF-Offloading in RAMNiedrige GPU-AuslastungGPU-Auslastung prüfenRAM-Bandbreite begrenzt
Bei genug VRAM fp8/fp16
Video mit vielen FramesVAE Decode langsamFrames × Auflösung berechnenFrames senken
Temporal Tiling
CPU-Modus —cpuExtrem langsamStartparameter prüfenNur letzter Ausweg
GPU verwenden
Unerwartete Verzögerung
Zu viele Sampler-StepsFLUX dev über 20 StepsKSampler prüfenFür FLUX dev reichen oft 20
schnell/Klein 4B nur vier
Attention-Backend ungünstigHoher SpeicherbedarfStartparameter prüfenKompatibles xformers
Oder PyTorch SDP testen
VAE Decode langsamtile_size zu kleinVAEDecodeTiled prüfenVon 512 auf 1024
Etwa 1GB mehr Spitze, 10–30% schneller im Beispiel
CPU-Offload wartetCPU-GPU-WartezeitStartparameter prüfen—async-offload
Genug RAM, häufig 32GB+
Disk-/RAM-Cache ungünstigModell lädt wiederholtStartparameter prüfen—cache-lru 10
10 Ergebnisse cachen
Anderer Prozess nutzt GPUWenig nutzbare GPU-LeistungSystemmonitor prüfenBrowser, Spiele, Videoeditor schließen

Maßnahmen in dieser Reihenfolge

  1. xformers oder SDP Attention: pip install xformers für automatische Erkennung oder --use-pytorch-cross-attention testen; Referenzwerte: 20–30% weniger VRAM und 5–20% schneller
  2. FLUX mit vier Steps: schnell oder Klein 4B statt dev mit 20 Steps
  3. Tiled-VAE-tile_size erhöhen: 512 → 1024; etwa 1GB mehr Spitze für mögliche 10–30% Beschleunigung
  4. Async Offload aktivieren: --async-offload bei ausreichend RAM
  5. Andere GPU-Prozesse schließen: Browser, Spiele und Videoeditoren

SynpixCloud-Beobachtung: xformers/SDP Attention benötigte 20–30% weniger VRAM und war 5–20% schneller.

Local-AI-Master-Beobachtung: FLUX.2 Klein 4B Q4_K_M mit vier Steps, 1024×1024 und 8GB brauchte etwa 15–30 Sekunden.

Veränderlicher Benchmark: Alle Werte sind umgebungsspezifische Referenzen.


Warum eine kleinere GGUF-Datei langsamer sein kann

Eine GGUF-Datei wie Q4_K_S mit etwa 6,8GB kann trotz geringerer Größe als FLUX fp16 mit etwa 23GB langsamer generieren:

  • GGUF kann Modellgewichte in System-RAM auslagern, statt sie im VRAM zu halten; die GPU-Auslastung sinkt
  • Während der Inferenz werden Gewichte wiederholt von RAM zu VRAM übertragen
  • RAM-Bandbreite ist viel geringer: DDR4/DDR5 etwa 25–50GB/s gegenüber GDDR6X mit etwa 500–1000GB/s

GGUF verwenden, wenn

  • fp8 auf einer 6–8-GB-GPU nicht passt und GGUF der verbleibende FLUX-Weg ist
  • Du langsamere Generierung akzeptierst, damit das Modell überhaupt läuft

GGUF vermeiden, wenn

  • Eine 12GB+-GPU fp8 oder fp16 effizient ausführen kann
  • Geschwindigkeit wichtiger ist als das Ausführen um jeden Preis

Apatero-Beobachtung: Q8_0 with CPU offloading may take 5-10 minutes per generation.


VRAM-Budget für Video: Frames × Auflösung × VideoVAE

Bei Video treiben Frames × Auflösung × VideoVAE den VRAM hoch. Hier geht es nur um Budget und Spitzenreduktion, nicht um einen vollständigen Wan- oder AnimateDiff-Workflow.

Budgetprinzip

Peak-VRAM ≈ Modellgewichte + T5 + Frames × Latent pro Frame + VideoVAE-Spitze.

Beispiele aus den zitierten ComfyUI-Wan2.2- und Local-AI-Master-Materialien

VideoeinstellungVRAM-BudgetGPUHinweis
8 Frames bei 480p (640×360)~6–8GB6GB kann funktionierenIm zitierten RTX-3050-6GB-Beispiel entstand etwa eine Sekunde Video in unter fünf Minuten
24 Frames bei 720p (1280×720)~12–16GB8GB Grenzfall/12GB gutTemporal Tiling nötig
60 Frames bei 1080p (1920×1080)~20–24GB+16GB+High-VRAM-Weg

Spitze senken

Temporal Tiling teilt Frames in kleinere Gruppen, etwa acht Frames pro Block. Die Parameter heißen temporal_size und temporal_overlap.

Tiled VAE verarbeitet VAE Decode jedes Frames in räumlichen Tiles.

Reduziere Frames von 60 auf 24 und dann auf 8 und teste zuerst die kleinste Ausführung.

Reduziere die Auflösung von 1080p auf 720p und dann 480p.

Das Quellmaterial nennt Wan 2.2 5B für ein 8GB-Ziel oder Wan 2.2 14B GGUF als Beispiel ab 6GB.

Veränderlicher Benchmark: Die Zahlen sind umgebungsspezifische Referenzwerte.


OOM bei Serienbildern: Batch Size statt Batch Count verstehen

Batch size und batch count erzeugen sehr unterschiedliche VRAM-Spitzen. Eine große batch size führt schnell zu OOM.

Batch size und batch count

Batch size berechnet mehrere Bilder gleichzeitig; Latents, VAE und aktive Tensoren wachsen mit. Batch count stellt mehrere kleine Batches nacheinander in die Queue und hält den aktiven Batch klein.

VRAM-Vergleich

KonfigurationAuflösungPeak-VRAMOOM-Risiko
batch size=41024×1024~8–12GBHoch durch Parallelität
batch count=4, batch size=11024×1024~2–3GBNiedriger durch sequenzielle Ausführung

Empfehlung

  • Bei 6–8GB: batch size=1 und batch count=N
  • Bei API-Batches: Queue und Concurrency Control des ComfyUI-API-Workflows verwenden, statt mehrere VRAM-schwere Requests gleichzeitig zu starten

Plötzlich OOM nach einem Update: Versionen prüfen

Wird derselbe Workflow nach einem PyTorch-, Treiber- oder ComfyUI-Update langsam oder fehlerhaft, kann sich die Umgebung verändert haben, obwohl Prompt und Graph gleich blieben.

Versionsänderungen mit VRAM-Effekt

PyTorch-CUDA-Verhalten ändert sich, darunter TF32/FP16-Standards und Allocator-Strategien. TF32 und FP16 sind nicht pauschal besser. PyTorch-Beispiele zeigen schnellere TF32-Matrixmultiplikation bei höherem numerischem Fehler. Auch Treiber-, ROCm- und CUDA-Versionen verändern das GPU-Verhalten.

Vorgehen

  1. Vor dem Update die Umgebung mit conda oder pip freeze sichern
  2. Neue Version in einer getrennten Umgebung testen
  3. Stabile PyTorch-, CUDA- und Treiberversion notieren
  4. Bei Regression auf eine feste Version zurückgehen

Experimentelle Beschleuniger und stabile Startpunkte trennen

Unterscheide fortgeschrittene Experimente von stabilen Einstellungen für den ersten Test.

Fortgeschrittene Experimente, keine Pflicht für 8GB

OptionStatusRisikoHinweis
--fastExperimentellKann Qualität/Stabilität verändernVon ComfyUI als experimental markiert
FlashAttentionBenötigt flash-attentionManche CUDA-Versionen inkompatibelInstallation aufwendig
Sage AttentionDrittanbieter-OptimierungExperimentell, kann Präzision verändernPassende CUDA/PyTorch-Version nötig
TensorRTTensorRT SDK und ZusatzsetupModellkonvertierung komplexNicht für Einsteiger

Stabile Startpunkte

OptionStatusWirkungHinweis
xformersBei kompatibler Umgebung stabilReferenz: 20–30% weniger VRAM, 5–20% schnellerpip install xformers
ComfyUI erkennt es automatisch
SDP Attention mit —use-pytorch-cross-attentionStabilReferenz: 20–30% weniger VRAM, 5–20% schnellerComfyUI wählt eventuell automatisch das beste Backend

Fazit

GPU-Klasse: Bestimme zuerst 6GB, 8GB, 12GB oder 16GB+ und beginne mit einem passenden Basis-Workflow.

Startparameter: Im zitierten Verhalten von v0.18.0+ ist Dynamic VRAM standardmäßig aktiv; --lowvram kann daher wirkungslos sein. Prüfe Parameter mit python main.py --help.

Quantisierung: Die zitierten Messungen nennen FLUX.2 Klein 4B GGUF als schnellen 8GB-Weg und FLUX.1 GGUF Q4_K_S, wenn das Einpassen wichtiger als Geschwindigkeit ist. GGUF-Offloading hängt stark von der RAM-Bandbreite ab.

Fehlerreihenfolge: Prüfe OOM nach Modellgewichten → T5 → Latent-Auflösung → VAE → batch size → ControlNet → Videoframes → Cache. Trenne bei Geschwindigkeit erwartete Offload-Verzögerung von einem einstellbaren Engpass.

Nächste Schritte

  1. GPU-Klasse 6GB, 8GB, 12GB oder 16GB+ bestimmen
  2. Für die zitierten 8GB-Fälle eine Route wie FLUX.2 Klein 4B oder FLUX.1 GGUF Q4_K_S wählen
  3. Bei OOM die Speicher-Checkliste anwenden
  4. Bei unerwarteter Langsamkeit die Geschwindigkeits-Checkliste anwenden
  5. Für Video Temporal Tiling verwenden

Wenn die Basisumgebung noch nicht läuft, beginne mit dem ComfyUI-Einsteigerleitfaden. Bei roten Nodes, fehlenden Modellen oder nicht reproduzierbaren Workflows hilft die Checkliste zur Wiederverwendung von ComfyUI-Workflows. Falls die Wahl zwischen SDXL, SD 3.5 und FLUX noch offen ist, lies zuerst den Leitfaden zur Stable-Diffusion-Modellwahl.

Low-VRAM-OOM in ComfyUI systematisch beheben

Beginne mit günstigen Änderungen an Auflösung und Batch und prüfe danach Modellpräzision, T5, VAE, zusätzliche Nodes und Versionsänderungen, ohne mehrere Variablen zugleich zu ändern.

  1. 1

    Step 1: OOM-Phase festhalten

    Bestimme, ob der Fehler beim Laden des Modells, beim Sampling, bei VAE Encode/Decode, im Video-Workflow oder erst nach einem Update auftritt. Sichere Console-Fehler und Versionen.
  2. 2

    Step 2: Auflösung und Batch reduzieren

    Setze batch size auf 1 und senke die Auflösung stufenweise. Lege Serienjobs in eine sequenzielle Queue, statt mehrere schwere Workflows gleichzeitig zu starten.
  3. 3

    Step 3: Previews und Zusatzpfade abschalten

    Nutze --preview-method none und deaktiviere vorübergehend ControlNet, FaceDetailer, Hires Fix, Upscale und weitere zweite Sampling-Pfade.
  4. 4

    Step 4: Modell- und T5-Präzision ändern

    Teste für FLUX einen offiziellen fp8- oder unterstützten GGUF-Pfad und ersetze T5 fp16 durch fp8 oder ein kompatibles T5-GGUF.
  5. 5

    Step 5: VAE-Spitze senken

    Tritt OOM erst nach dem Sampling auf, verwende VAEEncodeTiled oder VAEDecodeTiled und beginne mit kleineren Tiles und weniger Videoframes.
  6. 6

    Step 6: VRAM-Startparameter prüfen

    Gleiche --lowvram, --novram, --reserve-vram, Async Offload und Cache-Parameter mit der aktuellen Ausgabe von python main.py --help ab.
  7. 7

    Step 7: Variablen einzeln zurücknehmen

    Stelle bei gleichem Seed und Workflow Auflösung, Nodes, Steps oder Attention-Backend einzeln wieder her und notiere VRAM, Laufzeit und Ausgabe.
  8. 8

    Step 8: Versionsregression prüfen

    Begann der Fehler nach einem Update, vergleiche ComfyUI, Custom Nodes, PyTorch, CUDA/ROCm und Treiber und kehre bei Bedarf zu einer stabilen Umgebung zurück.

FAQ

Kann eine 6-GB-GPU SDXL in ComfyUI ausführen?
Du kannst einen leichten SDXL-Workflow mit einem Bild und geringerer Auflösung testen. Setze batch size auf 1 und aktiviere Hires Fix, ControlNet, FaceDetailer und große Nachbearbeitung nicht gleichzeitig.
Kann eine 8-GB-GPU FLUX ausführen?
Teste FLUX schnell, einen fp8-Checkpoint oder GGUF mit niedriger Auflösung, batch size 1 und T5 fp8/GGUF. Ob es stabil läuft, hängt weiterhin von Modell, Nodes und Offloading ab.
Warum hat --lowvram in ComfyUI keine Wirkung?
Bei aktivem Dynamic VRAM kann --lowvram ignoriert werden. Prüfe die aktuelle Starthilfe, Modellpräzision, T5, Auflösung, Batch, VAE und Nachbearbeitungs-Nodes, statt denselben Parameter mehrfach zu kombinieren.
Eignet sich FLUX fp8 oder GGUF besser für wenig VRAM?
fp8 liegt näher an den offiziellen Workflows und ist einfacher einzurichten. GGUF kann den Speicherbedarf von FLUX oder T5 weiter senken, benötigt aber eine Custom Node; Geschwindigkeit, LoRA-Support und Kompatibilität musst du je Workflow testen.
Was hilft bei OOM am Ende von VAE Decode?
Wechsle zu VAEDecodeTiled oder VAEEncodeTiled und reduziere Auflösung, tile size, Videoframes oder temporal size. Kleinere Tiles brauchen meist weniger VRAM, laufen aber langsamer.
Was sollte ich zuerst ändern, wenn ComfyUI zu langsam ist?
Kläre zuerst, ob die Verzögerung der normale Preis für Low-VRAM-Offloading ist. Deaktiviere dann Previews, reduziere Steps und unnötige Neuberechnungen, behalte batch size 1 bei und teste erst danach Attention, Cache und Async Offload.

13 Min. Lesezeit · Veröffentlicht am: 21. Juli 2026 · Aktualisiert am: 21. Juli 2026

Kommentare

Melde dich mit GitHub an, um einen Kommentar zu hinterlassen

Easton BlogEaston Blog