Apa cloud GPU terbaik untuk ComfyUI, Stable Diffusion, dan Flux?

Apakah GPU yang lebih kecil masih bisa menjalankan model yang tidak muat?

Ya, lebih lambat. ComfyUI memindahkan model antara RAM sistem dan VRAM: bantuan command-line-nya menyebutkan bahwa secara default model di-unload ke memori CPU setelah dipakai, dan README-nya menjelaskan weight streaming untuk model yang lebih besar dari kartu. Jadi alur kerja FLUX.1 [dev] dalam BF16 berjalan di RTX 4090 24 GB. Memindahkan bobot memakan waktu pada setiap prompt baru, maka tabel di atas mencantumkan kartu yang menampung semuanya sekaligus.

Model card FLUX.2 [dev] menunjukkan jalur lain: versi 4-bit dengan text encoder dijalankan dari jarak jauh, di RTX 4090. Bandingkan keluaran terkuantisasi dan BF16 pada prompt Anda sendiri sebelum memilih salah satunya.

GPU mana yang harus saya pilih untuk alur kerja saya?

• SDXL, SD 1.5, LoRA, ControlNet, upscaler: RTX 4090. Checkpoint SDXL 6,9 GB menyisakan 17 GB untuk model tambahan dan batch besar.
• FLUX.1 [dev] atau [schnell] dalam FP8: RTX 4090. File FP8 all-in-one 17,2 GB muat dengan sisa 6,8 GB.
• FLUX.1 dalam BF16, atau pelatihan LoRA Flux: RTX 5090. Pelatihan LoRA pada transformer 12B membutuhkan sekitar 28,8 GB menurut aturan di panduan VRAM kami.
• Beberapa model dalam satu graph, resolusi tinggi, FLUX.2 [klein] dengan semuanya dimuat: L40S, 48 GB.
• FLUX.2 [dev] dalam BF16: satu H200 (141 GB), atau H100 80 GB dengan text encoder di-unload.

Kami tidak mempublikasikan angka detik-per-gambar: kami belum mengukurnya, dan angka itu berubah menurut steps, resolusi, dan sampler.

Apakah RTX 5090 sepadan dengan tambahan biaya dibanding RTX 4090?

Saat alur kerja Anda membutuhkan antara 24 dan 32 GB, ya. Menurut pengecekan harga GPUwithCrypto pada 29 Oktober 2026, RTX 5090 on-demand self-serve termurah berharga 52% lebih mahal per jam daripada RTX 4090 termurah ($0.50 berbanding $0.33, keduanya di Salad) untuk VRAM 33% lebih banyak. Harga RTX 4090 Salad naik dari $0,33 menjadi $0,44 per jam pada 1 November 2026.

Angka NVIDIA untuk RTX 5090: 32 GB GDDR7 pada 1.792 GB/s dan FP4 Tensor Cores, berbanding 24 GB GDDR6X pada 1.008 GB/s di RTX 4090. Dengan harga kami, keduanya berbiaya $0.42/jam dan $0.28/jam. Perbandingan lengkap: RTX 5090 vs H100.

Bagaimana cara menjalankan ComfyUI di GPU sewaan?

Mulai instance dengan image PyTorch, pasang ComfyUI dari repositori GitHub-nya, dan buka melalui SSH tunnel. ComfyUI mendengarkan di 127.0.0.1, port 8188, secara default, sehingga antarmuka tidak pernah terekspos ke internet. Taruh checkpoint di models/checkpoints, VAE di models/vae. Setiap instance memiliki disk NVMe lokal, disesuaikan untuk GPU-nya dan ditampilkan sebelum Anda memulai. Disk dihapus saat Anda menghapus instance, jadi salin checkpoint Anda terlebih dahulu.

# on the instance
git clone https://github.com/comfyanonymous/ComfyUI
cd ComfyUI
pip install -r requirements.txt
python main.py --listen 127.0.0.1 --port 8188

# on your computer: forward the port (host and SSH port are in the dashboard)
ssh -N -L 8188:127.0.0.1:8188 -p SSH_PORT root@HOST
# then open http://127.0.0.1:8188 in your browser

Haruskah saya memakai GPU spot atau marketplace untuk ComfyUI?

Untuk sesi interaktif, tidak: GPU yang ditarik kembali mengakhiri sesi dan file di disk-nya. Penawaran RTX 4090 termurah di marketplace Vast.ai adalah $0.13 per jam pada 29 Oktober 2026 (feed harga publik Vast.ai), di bawah harga on-demand mana pun. Untuk batch render yang bisa dimulai ulang, itu bisa menguntungkan. Instance bersifat on-demand, bukan spot: tidak ada yang bisa mengambil kembali GPU Anda selama saldo Anda mencukupinya, dan instance berjalan sampai Anda menghentikannya. Selengkapnya: apa itu GPU spot.