Cloud GPU tốt nhất cho ComfyUI, Stable Diffusion và Flux là gì?

GPU nhỏ hơn có chạy được model không vừa VRAM không?

Có, chậm hơn. ComfyUI chuyển model giữa RAM hệ thống và VRAM: phần trợ giúp dòng lệnh của nó cho biết mặc định model được gỡ về bộ nhớ CPU sau khi dùng, và README mô tả weight streaming cho model lớn hơn card. Vì vậy một workflow FLUX.1 [dev] ở BF16 vẫn chạy trên RTX 4090 24 GB. Việc chuyển weight tốn thời gian ở mỗi prompt mới, nên bảng trên liệt kê card chứa được mọi thứ cùng lúc.

Model card của FLUX.2 [dev] cho thấy một cách khác: phiên bản 4-bit với text encoder chạy từ xa, trên RTX 4090. Hãy so sánh kết quả quantized và BF16 trên prompt của chính bạn trước khi chọn một cách.

Tôi nên chọn GPU nào cho workflow của mình?

• SDXL, SD 1.5, LoRA, ControlNet, upscaler: RTX 4090. Checkpoint SDXL 6.9 GB để lại 17 GB cho model phụ và batch lớn.
• FLUX.1 [dev] hoặc [schnell] ở FP8: RTX 4090. File FP8 all-in-one 17.2 GB vừa và còn dư 6.8 GB.
• FLUX.1 ở BF16, hoặc train Flux LoRA: RTX 5090. Train LoRA trên transformer 12B cần khoảng 28.8 GB theo quy tắc trong hướng dẫn VRAM của chúng tôi.
• Nhiều model trong một graph, độ phân giải cao, FLUX.2 [klein] với mọi thứ được nạp: L40S, 48 GB.
• FLUX.2 [dev] ở BF16: một H200 (141 GB), hoặc H100 80 GB với text encoder được gỡ.

Chúng tôi không công bố số giây mỗi ảnh: chúng tôi chưa đo, và con số đó thay đổi theo steps, độ phân giải và sampler.

RTX 5090 có đáng trả thêm so với RTX 4090 không?

Khi workflow của bạn cần từ 24 đến 32 GB, có. Theo kiểm tra giá của GPUwithCrypto ngày 29 tháng 10 năm 2026, RTX 5090 on-demand tự phục vụ rẻ nhất có giá cao hơn 52% mỗi giờ so với RTX 4090 rẻ nhất ($0.50 so với $0.33, cả hai ở Salad) để đổi lấy 33% VRAM nhiều hơn. Giá RTX 4090 của Salad tăng từ $0.33 lên $0.44 mỗi giờ vào ngày 1 tháng 11 năm 2026.

Thông số NVIDIA cho RTX 5090: 32 GB GDDR7 ở 1,792 GB/s và FP4 Tensor Cores, so với 24 GB GDDR6X ở 1,008 GB/s trên RTX 4090. Với giá của chúng tôi, hai card tốn $0.42/giờ và $0.28/giờ. So sánh đầy đủ: RTX 5090 vs H100.

Làm sao chạy ComfyUI trên GPU thuê?

Khởi tạo một instance với image PyTorch, cài ComfyUI từ kho GitHub của nó và mở qua SSH tunnel. ComfyUI mặc định lắng nghe trên 127.0.0.1, cổng 8188, nên giao diện không bao giờ lộ ra internet. Đặt checkpoint vào models/checkpoints, VAE vào models/vae. Mỗi instance có ổ NVMe cục bộ, dung lượng phù hợp với GPU của nó và được hiển thị trước khi bạn bắt đầu. Ổ đĩa bị xóa khi bạn xóa instance, nên hãy sao chép các checkpoint ra trước.

# on the instance
git clone https://github.com/comfyanonymous/ComfyUI
cd ComfyUI
pip install -r requirements.txt
python main.py --listen 127.0.0.1 --port 8188

# on your computer: forward the port (host and SSH port are in the dashboard)
ssh -N -L 8188:127.0.0.1:8188 -p SSH_PORT root@HOST
# then open http://127.0.0.1:8188 in your browser

Tôi có nên dùng GPU spot hay marketplace cho ComfyUI không?

Với một phiên tương tác, không: GPU bị thu hồi sẽ kết thúc phiên và mất file trên đĩa của nó. Ưu đãi RTX 4090 rẻ nhất trên marketplace của Vast.ai là $0.13 mỗi giờ vào ngày 29 tháng 10 năm 2026 (nguồn giá công khai của Vast.ai), thấp hơn mọi giá on-demand. Với một loạt render có thể khởi động lại, nó có thể đáng. Instance là on-demand, không phải spot: không ai có thể lấy lại GPU của bạn khi số dư của bạn còn đủ, và instance chạy cho đến khi bạn dừng nó. Thêm: GPU spot là gì.