빠른 답변
클라우드 GPU(GPU as a Service)란 무엇인가요?
클라우드 GPU, 즉 GPU as a Service는 구매하지 않고 초, 분 또는 시간 단위로 임대하여 SSH, 노트북 또는 API를 통해 원격으로 사용하는 데이터 센터 그래픽 카드입니다. 2026년 10월 29일 기준, 저희가 확인한 16개 제공사개 제공업체에서 온디맨드 NVIDIA H100의 GPU 시간당 비용은 $2.73에서 $12.29까지였습니다. GPUwithCrypto는 KYC 없이 암호화폐로 결제하는 클라우드 GPU를 임대합니다.
클라우드 GPU 용어는 무엇을 의미하나요?
- 클라우드 GPU(GPU as a Service)
제공업체의 데이터 센터에 있는 GPU로, 일정 기간 임대하여 보통 SSH, Jupyter 또는 API를 통해 네트워크로 접속합니다.
- 온디맨드
시간당 고정 정가입니다. 원할 때 GPU를 시작하고 중지하며, 실행 중에는 누구도 이를 회수할 수 없습니다.
- 스팟 / 선점 가능
할인된 가격으로 판매되는 여유 용량으로, 제공업체가 단기 통보로 회수할 수 있습니다. 스팟 GPU란 무엇인가를 참조하세요.
- 마켓플레이스 GPU
Vast.ai 또는 Akash 같은 플랫폼에서 독립 호스트가 호스트 자체 가격으로 등록한 GPU입니다.
- 서버리스 GPU
장비를 임대하는 대신 요청이나 작업을 보내면, 플랫폼이 필요할 때 GPU 워커를 시작하고 실행 중에만 과금합니다.
- GPU 시간
GPU 하나를 한 시간 동안. 8-GPU 인스턴스를 한 시간 동안 실행하면 8 GPU-hour를 사용합니다.
- VRAM
GPU 자체의 메모리입니다. 어떤 모델이 들어갈지 결정합니다: RTX 4090은 24 GB, H100은 80 GB, H200은 141 GB입니다.
- HBM
High Bandwidth Memory로, GPU 칩 옆에 적층됩니다. H100 SXM의 HBM3는 3,350 GB/s, L40S의 GDDR6는 864 GB/s를 처리합니다.
- SXM
NVIDIA의 멀티 GPU 보드(HGX)용 소켓형 모듈입니다. H100 SXM은 최대 700 W를 소비하며 NVLink를 통해 900 GB/s로 이웃 GPU와 연결됩니다.
- PCIe
표준 플러그인 카드입니다. H100 PCIe는 350 W를 소비하고 2,000 GB/s의 메모리 대역폭을 가지며, NVLink 브리지를 통해 600 GB/s로 다른 카드와 연결할 수 있습니다.
- NVLink
PCIe보다 훨씬 빠른 NVIDIA의 직접 GPU 간 링크입니다: H100 또는 H200 SXM은 각 900 GB/s, B200은 각 1,800 GB/s입니다. L40S와 RTX 4090에는 없습니다.
- MIG
Multi-Instance GPU: 데이터센터 GPU 하나를 메모리를 나눠 가진 격리된 슬라이스로 분할하는 기능입니다. 더 저렴하지만 전체 GPU는 아닙니다.
클라우드 GPU는 시간당 얼마인가요?
각 제공업체의 자체 가격 페이지에서 2026년 10월 29일에 확인한 GPU-hour당 셀프서비스 온디맨드 가격입니다. 멀티 GPU 인스턴스 가격은 GPU 개수로 나눴으며, spot 및 마켓플레이스 가격은 제외했습니다.
| GPU | VRAM | 최저 | 중앙값 | 최고 | 제공업체 | GPUwithCrypto |
|---|---|---|---|---|---|---|
| H100 80GB | 80 GB | $2.73 (Massed Compute) | $4.16 | $12.29 (Microsoft Azure) | 16 | $2.32/시간 |
| H200 141GB | 141 GB | $3.62 (Massed Compute) | $5.29 | $10.60 (Google Cloud) | 13 | 시간당 $3.07 |
| B200 | 180 GB | $5.43 (Massed Compute) | $8.50 | $14.24 (AWS) | 9 | 시간당 $4.61 |
| A100 80GB | 80 GB | $1.09 (Thunder Compute) | $2.23 | $5.07 (Google Cloud) | 13 | 시간당 $0.92 |
| L40S 48GB | 48 GB | $0.97 (Massed Compute) | $1.67 | $3.15 (Spheron) | 11 | 시간당 $0.82 |
| RTX 5090 | 32 GB | $0.50 (Salad) | $0.84 | $1.19 (RunPod) | 3 | 시간당 $0.42 |
| RTX 4090 | 24 GB | $0.33 (Salad) | $0.61 | $0.89 (RunPod) | 2 | 시간당 $0.28 |
가격 확인일:
USD, 세금 별도. AWS, Google Cloud, Azure 가격은 전체 VM(vCPU, RAM, 로컬 SSD)을 GPU 개수로 나눈 값입니다. Salad의 RTX 4090 가격은 2026년 11월 1일에 $0.33에서 $0.44로 인상됩니다.
클라우드 GPU 가격은 어떻게 책정되나요?
시간 단위당 GPU별로 지불하고, 여기에 스토리지가 더해지며, 요율은 가격 유형에 따라 정해집니다. 청구서를 바꾸는 세부 사항:
- 청구 단위. 2026년 10월 29일 기준, RunPod는 초 단위, Lambda, Thunder Compute, Jarvislabs는 분 단위, Google Cloud와 OVHcloud는 1분 최소 후 초 단위, DigitalOcean은 5분 최소 후 초 단위로 청구했습니다.
- 가격 유형. 온디맨드, spot, 마켓플레이스, 예약 가격은 서로 다른 상품입니다. CoreWeave는 약정 사용 시 온디맨드 대비 최대 60% 할인을 광고하며, Verda의 예약 할인은 1개월 2%에서 2년 25%까지입니다.
- 포함 항목. 하이퍼스케일러는 전체 VM을 판매하고, 소규모 GPU 클라우드는 GPU 가격을 책정한 뒤 CPU, RAM, 디스크를 추가합니다.
- 스토리지. 예를 들어 RunPod는 컨테이너 디스크에 대해 GB당 월 $0.10를 청구했습니다.
- 선불 또는 후불. AWS, Google Cloud, Azure는 카드나 계약에 대해 사후 청구합니다. RunPod, Salad, GPUwithCrypto은 선불 크레딧을 판매합니다.
클라우드 GPU 가격은 왜 이렇게 차이가 큰가요?
같은 GPU가 매우 다른 회사들에 의해 서로 다른 패키지로 판매되기 때문입니다. 2026년 10월 29일 GPUwithCrypto의 가격 조사에 따르면, 저희가 찾은 가장 비싼 온디맨드 H100(Microsoft Azure, 8-GPU VM의 일부로 GPU-hour당 $12.29)은 가장 저렴한 것(Massed Compute, $2.73)의 4.5배였습니다. 16개 제공사 전체의 중앙값은 $4.16였습니다.
하이퍼스케일러는 CPU, RAM, 로컬 SSD를 포함한 전체 VM 가격을 책정하고, 전문 GPU 클라우드는 GPU 가격을 책정한 뒤 나머지를 추가합니다. 폼 팩터도 중요합니다: H100 SXM은 3,350 GB/s의 메모리 대역폭과 NVLink를 가지며, H100 PCIe는 2,000 GB/s입니다.
클라우드 GPU는 어떻게 결제하나요?
대부분의 클라우드는 카드를 요구하고, 소수만 암호화폐를 받습니다. 2026년 10월 29일에 확인한 33개 GPU 제공업체 중 14곳이 암호화폐를 받고 4곳은 경우에 따라 신분증을 요구합니다. RunPod는 첫 암호화폐 결제 전에 KYC를 요구합니다. GPUwithCrypto은 암호화폐만 받습니다: BTC, USDT, USDC, ETH, SOL, LTC, XMR, US$1부터, 신분증도 셀피도 카드도 없이. 비교: 암호화폐를 받는 GPU 클라우드.
어떤 클라우드 GPU를 선택해야 하나요?
VRAM이 모델에 약 20%를 더한 크기를 담을 수 있는 가장 저렴한 것입니다. 7–8B 모델은 24 GB RTX 4090에 들어가고, FP8의 70B 모델은 141 GB H200이 필요합니다. FLUX.1 같은 이미지 모델은 RTX 4090 또는 5090에서 실행됩니다. VRAM 가이드에 계산법이, LLM 추론에 최적의 GPU에 모델 크기별 선택이 있습니다. 그다음 AI용 GPU 대여 방법을 따르세요.
클라우드 GPU 질문
GPU as a service는 무슨 뜻인가요?
하드웨어를 소유하는 대신 제공업체로부터 GPU 컴퓨팅 시간을 임대하는 것입니다. 초, 분, 시간 단위로 지불하고 네트워크를 통해 GPU에 접속하며, 제공업체가 전력, 냉각, 교체를 처리합니다.
클라우드 GPU는 시간당 얼마인가요?
2026년 10월 29일, 저희가 찾은 가장 낮은 셀프서비스 온디맨드 가격은 RTX 4090의 경우 $0.33, A100 80GB의 경우 $1.09, H100의 경우 $2.73였습니다. 하이퍼스케일러는 H100-hour당 최대 $12.29를 청구했습니다.
SXM GPU와 PCIe GPU의 차이는 무엇인가요?
SXM 모듈은 사이에 NVLink가 있는 멀티 GPU 보드에 장착되어 더 높은 전력으로 작동하고, PCIe 카드는 표준 슬롯에 꽂습니다. H100의 경우: 메모리 대역폭은 3,350 대 2,000 GB/s, 전력은 700 W 대 350 W입니다.
서버리스 GPU란 무엇인가요?
요청이나 작업을 보내면 플랫폼이 대신 시작하고 중지하는 GPU에서 실행하며, 워커가 실행된 시간만 청구하는 서비스입니다. 머신을 관리하지 않지만, 요청 사이에 머신을 유지하지도 않습니다.
클라우드 GPU는 다른 사용자와 공유되나요?
제공업체에 따라 다릅니다: 일부는 MIG 슬라이스나 시간 공유 GPU를 판매합니다. GPUwithCrypto의 경우: 각 인스턴스는 시간 분할 조각이나 MIG 파티션이 아닌 전체 GPU를 제공합니다. NVIDIA 드라이버, CUDA, PyTorch가 설치된 Ubuntu에 root SSH로 접속하거나, 직접 만든 Docker 이미지로 시작할 수 있습니다.
암호화폐로 신분증 없이 클라우드 GPU를 임대할 수 있나요?
네. GPUwithCrypto은 BTC, USDT, USDC, ETH, SOL, LTC, XMR을 받고 신분증도 카드도 요구하지 않습니다. 계정 번호로 로그인하며, 이메일 주소는 선택 사항입니다.
출처 (13)
- NVIDIA H100 사양 — NVIDIA (read 2026-10-29)
- NVIDIA H100 PCIe 제품 브리프 — NVIDIA (read 2026-10-29)
- NVIDIA H200 사양 — NVIDIA (read 2026-10-29)
- NVIDIA HGX 플랫폼(B200) — NVIDIA (read 2026-10-29)
- NVIDIA L40S 사양 — NVIDIA (read 2026-10-29)
- Azure Retail Prices API (ND H100 v5, East US) — Microsoft (read 2026-10-29)
- 액셀러레이터 최적화 VM 가격 — Google Cloud (read 2026-10-29)
- Massed Compute 요금 vm.massedcompute.com/pricing — Massed Compute (read 2026-10-29)
- RunPod 가격 runpod.io/pricing — RunPod (read 2026-10-29)
- CoreWeave 가격 coreweave.com/pricing — CoreWeave (read 2026-10-29)
- Verda 가격 verda.com/pricing — Verda (read 2026-10-29)
- DigitalOcean GPU Droplet 가격 digitalocean.com/pricing/gpu-droplets — DigitalOcean (read 2026-10-29)
- RunPod 청구 정보 docs.runpod.io/references/billing-information — RunPod (read 2026-10-29)