단위 compute 비용 순위: 같은 금액으로 얼마나 많은 compute를 확보할 수 있는가

cost-performance = 현재 모니터링 중인 낮은 시간당 요금 ÷ FP16 Tensor 밀집 명목 compute · 22종의 GPU 모델 참여 · 데이터 갱신: 2026-11-06

⚡ 직접적인 답변: 현재 단위 컴퓨팅 파워당 가장 저렴한 옵션은 MI300X 192GB입니다. (¥0.003/TFLOPS·시간, RunPod(미국) 최저 시간 기준 임대료 환산) 이는 동일 순위권에서 가장 비싼 RTX 6000 Ada 48GB(¥0.059)의 1/21.3 수준입니다. 시간 기준 임대료 순위와 컴퓨팅 파워 대비 성능 순위는 차이가 큽니다—학습 작업은 본 표를 기준으로 선택하고, 추론/경량 작업은 시간 기준 임대료 표를 기준으로 선택하세요.

GPU 모델	FP16 공식 연산 성능	VRAM	대역폭	인터넷	현재 낮은 시간당 요금	¥/TFLOPS·시간	최저가 플랫폼
MI300X 192GB 데이터센터 플래그십	1307 TFLOPS	192GB	5300 GB/s	Infinity Fabric 896GB/s	¥3.60/시간단위 compute 비용 최소 스팟	¥0.003/TFLOPS·시간	RunPod(미국)
RTX 4090 프리미엄 소비 서비스	165 TFLOPS	24GB	1008 GB/s	PCIe	¥0.87/시간 스팟	¥0.005/TFLOPS·시간	Vast.ai(미국)
H100 80GB 데이터센터 플래그십	989 TFLOPS	80GB	3350 GB/s	NVLink 900GB/s	¥8.28/시간 사용량 기준 요금제	¥0.008/TFLOPS·시간	Paperspace(미국)
RTX 3090 프리미엄 소비 서비스	71 TFLOPS	24GB	936 GB/s	PCIe	¥0.63/시간 스팟	¥0.009/TFLOPS·시간	Vast.ai(미국)
H800 80GB 데이터센터 플래그십	989 TFLOPS	80GB	3350 GB/s	NVLink 400GB/s	¥10.50/시간 사용량 기준 요금제	¥0.011/TFLOPS·시간	AutoDL
V100 16GB 입문용 학습	125 TFLOPS	16GB	900 GB/s	NVLink 300GB/s	¥1.37/시간 스팟	¥0.011/TFLOPS·시간	RunPod(미국)
A100 40GB 데이터 센터	312 TFLOPS	40GB	1555 GB/s	NVLink 600GB/s	¥3.45/시간 사용량 기준 요금제	¥0.011/TFLOPS·시간	AutoDL
Ascend 910B2 64GB 국산 GPU	376 TFLOPS	64GB	None GB/s	HCCS	¥4.20/시간 사용량 기준 요금제	¥0.011/TFLOPS·시간	Gongji Compute
L40S 48GB 데이터 센터	362 TFLOPS	48GB	864 GB/s	PCIe	¥4.97/시간 사용량 기준 요금제	¥0.014/TFLOPS·시간	Cloudrift(미국)
V100 32GB 입문용 학습	125 TFLOPS	32GB	900 GB/s	NVLink 300GB/s	¥1.98/시간 사용량 기준 요금제	¥0.016/TFLOPS·시간	AutoDL
A800 80GB 데이터 센터	312 TFLOPS	80GB	2039 GB/s	NVLink 400GB/s	¥5.15/시간 사용량 기준 요금제	¥0.017/TFLOPS·시간	MornAI
H200 141GB 데이터센터 플래그십	989 TFLOPS	141GB	4800 GB/s	NVLink 900GB/s	¥16.49/시간 스팟	¥0.017/TFLOPS·시간	Jarvislabs(인도)
A40 48GB 데이터 센터	150 TFLOPS	48GB	696 GB/s	PCIe	¥2.52/시간 스팟	¥0.017/TFLOPS·시간	RunPod(미국)
L4 24GB 입문 추론	121 TFLOPS	24GB	300 GB/s	PCIe	¥2.09/시간 스팟	¥0.017/TFLOPS·시간	Jarvislabs(인도)
B200 180GB 데이터센터 플래그십	2250 TFLOPS	180GB	8000 GB/s	NVLink 1.8TB/s	¥39.11/시간 사용량 기준 요금제	¥0.017/TFLOPS·시간	Massed Compute(미국)
A100 80GB 데이터 센터	312 TFLOPS	80GB	2039 GB/s	NVLink 600GB/s	¥5.47/시간 사용량 기준 요금제	¥0.018/TFLOPS·시간	Paperspace(미국)
T4 16GB 입문 추론	65 TFLOPS	16GB	320 GB/s	PCIe	¥1.35/시간 사용량 기준 요금제	¥0.021/TFLOPS·시간	마트풀운
H20 96GB 데이터 센터	148 TFLOPS	96GB	4000 GB/s	NVLink 900GB/s	¥3.40/시간 스팟	¥0.023/TFLOPS·시간	PPIO 파오윈
L40 48GB 데이터 센터	181 TFLOPS	48GB	864 GB/s	PCIe	¥4.50/시간 사용량 기준 요금제	¥0.025/TFLOPS·시간	Gongji Compute
A6000 48GB 전문용 GPU 카드	77 TFLOPS	48GB	768 GB/s	PCIe	¥2.38/시간 스팟	¥0.031/TFLOPS·시간	RunPod(미국)
A10 24GB 입문 추론	125 TFLOPS	24GB	600 GB/s	PCIe	¥6.12/시간 사용량 기준 요금제	¥0.049/TFLOPS·시간	Paratera
RTX 6000 Ada 48GB 전문용 GPU 카드	91 TFLOPS	48GB	576 GB/s	PCIe	¥5.33/시간 스팟	¥0.059/TFLOPS·시간	RunPod(미국)

기준: compute는 제조사가 공개한 FP16/BF16 Tensor 밀집 명목 피크(희소 가속 미포함) 기준이며, 동일 모델이라도 SXM/PCIe/OAM 등 형태에 따라 차이가 있으며, 플랫폼 실제 구성은 사양 페이지를 기준으로 함; cost-performance는 현재 모니터링 중인 낮은 시간당 요금을 기준으로 환산함. spot/유휴 시간 가격 변동에 따라 순위가 달라질 수 있음. 명목 피크 ≠ 실제 활용률 — 실제 처리량은 작업 유형, 드라이버, 인터커넥트, VRAM 병목 현상 등에 따라 달라짐. 이 표는 ’동일 예산 기준 최대 compute 한계치’로 참고하시길 권장하며, 모델 선정 도구를 활용해 작업 유형에 맞는 GPU를 선택하세요. 10종의 GPU 모델(일부 중국산 카드 및 신규 모델 포함)은 제조사가 비교 가능한 기준을 공개하지 않아 본 순위에 참여하지 않으며, 해당 모델 가격 순위는 홈페이지 price comparison 표에서 확인 가능.

이 표는 어떻게 활용하나요?

① 학습/파인튜닝은 ¥/TFLOPS·시간 기준으로 ‘1원당 compute 성능’을 비교하지만, VRAM 용량이 부족한 카드는 즉시 제외합니다(VRAM 용량은 카드 모델 페이지 참조).

② 추론은 ‘VRAM이 충분한 전제하에 시간당 대여 비용이 가장 낮은 것’을 기준으로 선택합니다.홈페이지에서 시간당 대여 비용 순 정렬 가능.

③ 멀티-GPU 학습 시 우선 NVLink/HCCS 대역폭 등 상호 연결 성능을 확인하세요. PCIe 기반 카드는 다수 장착 시 통신 오버헤드가 큽니다.