Cómo elegir una nube GPU para inferencia de LLM
Empieza por la memoria del modelo y compara la asignación facturable, la región y el tipo de tarifa. Un precio bajo por GPU no demuestra que el modelo quepa ni indica el coste de la instancia completa.
Actual se refiere a observaciones válidas de la instantánea fechada de esta compilación, sin nueva comprobación de existencias ni mínimo de todo el mercado. Solo GPU completas en USD, regiones estándar o sin especificar e impuestos excluidos o desconocidos. Spot se calcula aparte. Se excluyen datos obsoletos, fracciones, precios promocionales «desde» y componentes GPU. Las tarjetas conservan las condiciones de fuente, impuestos, mercado, cambio y facturación.
Fecha de observación: 2026-11-18
La tabla calcula el almacenamiento ideal de pesos a partir de los parámetros nominales de la ficha del modelo guardados en la base. FP16 usa dos bytes por parámetro; pesos compactados de cuatro bits usan medio byte. Los resultados son GB decimales, no GiB. Son estimaciones aritméticas nominales, no requisitos medidos: metadatos de cuantización, caché KV, activaciones y ejecución añaden memoria. El contexto y la concurrencia cambian el consumo. Más memoria no demuestra mayor rendimiento; varias GPU requieren particionado compatible. Consulta el estimador y la documentación de caché.
| Modelo de GPU | Parámetros nominales (miles de millones) | Solo pesos FP16 (GB) | Solo pesos compactados de cuatro bits (GB) |
|---|---|---|---|
| Llama 2 7B | 7 | 14 | 3.5 |
| Llama 2 13B | 13 | 26 | 6.5 |
| Llama 2 70B | 70 | 140 | 35 |
Reserva memoria adicional y prueba el contexto, lote y precisión previstos. Las clases son intervalos sin solapamiento por GPU. Sus mínimos observados sirven para seleccionar candidatos, sin recomendar una oferta ni garantizar que un modelo quepa. Revisa asignación, ubicación y condiciones en las páginas enlazadas.
| Intervalo de VRAM por GPU | Tipo de precio | Mínimo observado USD/GPU-hora |
|---|---|---|
| 16 GB – < 24 GB | Bajo demanda | RTX A4000 16GB · clore · $0.062 · Bajo demanda |
| 16 GB – < 24 GB | Spot | RTX A4000 16GB · clore · $0.062 · Spot |
| 24 GB – < 48 GB | Bajo demanda | V100 SXM2 32GB · clore · $0.074 · Bajo demanda |
| 24 GB – < 48 GB | Spot | RTX 3090 24GB · clore · $0.067 · Spot |
| 48 GB – < 80 GB | Bajo demanda | CMP 170HX 64GB · clore · $0.231 · Bajo demanda |
| 48 GB – < 80 GB | Spot | CMP 170HX 64GB · clore · $0.231 · Spot |
| 80 GB+ | Bajo demanda | A100 PCIe 80GB · clore · $0.354 · Bajo demanda |
| 80 GB+ | Spot | A100 PCIe 80GB · clore · $0.250 · Spot |
Ejemplos observados y condiciones
RTX A4000 16GB 1×
JP
USD (stablecoin) • pueden aplicarse comisiones de plataforma
$0.062 por GPU-hora
Coste mínimo facturable de la instancia: USD $0.062/hr · Periodo mínimo de facturación desconocido
Detalles y fuente
SKU: 113131 · Disponibilidad: Disponible · A · API oficial
Nombre de GPU declarado: NVIDIA RTX A4000
VRAM declarada: 16 GB
Importe horario según el alcance original: USD $0.062/hr · Instancia
Unidad de facturación original: Instancia-hora
2/2
16 GB
16 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página del registro de la APIRTX A4000 16GB 1×
JP
USD (stablecoin) • pueden aplicarse comisiones de plataforma
$0.062 por GPU-hora
Coste mínimo facturable de la instancia: USD $0.062/hr · Periodo mínimo de facturación desconocido
Detalles y fuente
SKU: 113131 · Disponibilidad: Disponible · A · API oficial
Nombre de GPU declarado: NVIDIA RTX A4000
VRAM declarada: 16 GB
Importe horario según el alcance original: USD $0.062/hr · Instancia
Unidad de facturación original: Instancia-hora
2/2
16 GB
16 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página del registro de la APIRTX 3090 24GB 1×
PL
USD (stablecoin) • pueden aplicarse comisiones de plataforma
$0.067 por GPU-hora
Coste mínimo facturable de la instancia: USD $0.067/hr · Periodo mínimo de facturación desconocido
Detalles y fuente
SKU: 112743 · Disponibilidad: Disponible · A · API oficial
Nombre de GPU declarado: NVIDIA GeForce RTX 3090
VRAM declarada: 24 GB
Importe horario según el alcance original: USD $0.067/hr · Instancia
Unidad de facturación original: Instancia-hora
16/32
64 GB
24 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página del registro de la APIV100 SXM2 32GB 4×
RU
USD (stablecoin) • pueden aplicarse comisiones de plataforma
$0.074 por GPU-hora
Coste mínimo facturable de la instancia: USD $0.295/hr · Periodo mínimo de facturación desconocido
Detalles y fuente
SKU: 122717 · Disponibilidad: Disponible · A · API oficial
Nombre de GPU declarado: Tesla V100SXM232GB
VRAM declarada: 32 GB
Importe horario según el alcance original: USD $0.295/hr · Instancia
Unidad de facturación original: Instancia-hora
24/48
192 GB
32 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página del registro de la APICMP 170HX 64GB 9×
FI
USD (stablecoin) • pueden aplicarse comisiones de plataforma
$0.231 por GPU-hora
Coste mínimo facturable de la instancia: USD $2.08/hr · Periodo mínimo de facturación desconocido
Detalles y fuente
SKU: 115963 · Disponibilidad: Disponible · A · API oficial
Nombre de GPU declarado: NVIDIA CMP 170HX
VRAM declarada: 64 GB
Importe horario según el alcance original: USD $2.08/hr · Instancia
Unidad de facturación original: Instancia-hora
4/8
32 GB
64 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página del registro de la APICMP 170HX 64GB 9×
FI
USD (stablecoin) • pueden aplicarse comisiones de plataforma
$0.231 por GPU-hora
Coste mínimo facturable de la instancia: USD $2.08/hr · Periodo mínimo de facturación desconocido
Detalles y fuente
SKU: 115963 · Disponibilidad: Disponible · A · API oficial
Nombre de GPU declarado: NVIDIA CMP 170HX
VRAM declarada: 64 GB
Importe horario según el alcance original: USD $2.08/hr · Instancia
Unidad de facturación original: Instancia-hora
4/8
32 GB
64 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página del registro de la APIA100 PCIe 80GB 1×
US
USD (stablecoin) • pueden aplicarse comisiones de plataforma
$0.250 por GPU-hora
Coste mínimo facturable de la instancia: USD $0.250/hr · Periodo mínimo de facturación desconocido
Detalles y fuente
SKU: 124543 · Disponibilidad: Disponible · A · API oficial
Nombre de GPU declarado: NVIDIA A100 80GB PCIe
VRAM declarada: 80 GB
Importe horario según el alcance original: USD $0.250/hr · Instancia
Unidad de facturación original: Instancia-hora
24/24
216 GB
80 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página del registro de la APIA100 PCIe 80GB 1×
US
USD (stablecoin) • pueden aplicarse comisiones de plataforma
$0.354 por GPU-hora
Coste mínimo facturable de la instancia: USD $0.354/hr · Periodo mínimo de facturación desconocido
Detalles y fuente
SKU: 124543 · Disponibilidad: Disponible · A · API oficial
Nombre de GPU declarado: NVIDIA A100 80GB PCIe
VRAM declarada: 80 GB
Importe horario según el alcance original: USD $0.354/hr · Instancia
Unidad de facturación original: Instancia-hora
24/24
216 GB
80 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página del registro de la APIFuentes oficiales
Conoce el coste total del trabajo antes de alquilar: GPU Budget Kit ($12)
Guías y comparaciones relacionadas
- Precios GPU: Spot frente a bajo demanda
- Precio por GPU-hora frente a precio por instancia
- Glosario de precios de GPU en la nube
- GPU más baratas por GB de VRAM ahora
- Modelos Llama
- Mejor GPU en la nube para inferencia LLM con Llama 3.1 8B (FP16)
- Mejor GPU en la nube para inferencia LLM con Llama 3.1 8B (4 bits)
- Mejor GPU en la nube para inferencia LLM con Llama 2 13B (FP16)
- Mejor GPU en la nube para inferencia LLM con Llama 2 13B (4 bits)
- Mejor GPU en la nube para inferencia LLM con Llama 3.1 70B (FP16)
- Mejor GPU en la nube para inferencia LLM con Llama 3.1 70B (4 bits)
- Modelos Qwen
- Mejor GPU en la nube para inferencia LLM con Qwen2.5 7B Instruct (FP16)
- Mejor GPU en la nube para inferencia LLM con Qwen2.5 7B Instruct (4 bits)
- Mejor GPU en la nube para inferencia LLM con Qwen2.5 14B Instruct (FP16)
- Mejor GPU en la nube para inferencia LLM con Qwen2.5 14B Instruct (4 bits)
- Mejor GPU en la nube para inferencia LLM con Qwen2.5 32B Instruct (FP16)
- Mejor GPU en la nube para inferencia LLM con Qwen2.5 32B Instruct (4 bits)
- Mejor GPU en la nube para inferencia LLM con Qwen2.5 72B Instruct (FP16)
- Mejor GPU en la nube para inferencia LLM con Qwen2.5 72B Instruct (4 bits)
- Modelos Mistral
- Reconocimiento de voz Whisper