Como escolher um provedor de GPU na nuvem para inferência de LLM
Comece pela memória do modelo e compare a quantidade de GPUs cobrada, a região e o tipo de tarifa. Um preço baixo por GPU não garante que o modelo caiba nem informa o custo da instância inteira.
Atual significa observações elegíveis na base datada desta geração, sem nova checagem de estoque nem promessa de menor preço de todo o mercado. Só entram GPUs inteiras em USD, regiões padrão ou não informadas e impostos excluídos ou desconhecidos. Spot fica separado. Registros antigos, frações, preços promocionais «a partir de» e componentes GPU são excluídos. As condições de fonte, impostos, mercado comunitário, câmbio e cobrança permanecem nos cartões.
Data dos preços observados: 2026-11-18
A tabela calcula o armazenamento ideal dos pesos com base nas contagens nominais de parâmetros da ficha do modelo registradas no banco. FP16 usa dois bytes por parâmetro; pesos compactados de quatro bits usam meio byte. Os resultados são GB decimais, não GiB. São estimativas aritméticas nominais, não requisitos medidos de VRAM: metadados de quantização, cache KV, ativações e memória de execução acrescentam consumo. O comprimento do contexto e a quantidade de solicitações simultâneas alteram a necessidade de memória. Mais memória não comprova maior taxa de processamento; várias GPUs exigem particionamento compatível. Consulte o estimador e a documentação de cache.
| Modelo de GPU | Parâmetros nominais (bilhões) | Só pesos FP16 (GB) | Só pesos compactados de quatro bits (GB) |
|---|---|---|---|
| Llama 2 7B | 7 | 14 | 3.5 |
| Llama 2 13B | 13 | 26 | 6.5 |
| Llama 2 70B | 70 | 140 | 35 |
Reserve memória além dos pesos e teste o contexto, lote e precisão desejados. As classes são faixas sem sobreposição por GPU. Os menores preços observados formam uma lista de candidatos, sem recomendação nem garantia de que um modelo caiba. Confira quantidade, localização e condições nas páginas vinculadas.
| Faixa de VRAM por GPU | Tipo de preço | Mínimo observado USD/GPU-hora |
|---|---|---|
| 16 GB – < 24 GB | Sob demanda | RTX A4000 16GB · clore · $0.062 · Sob demanda |
| 16 GB – < 24 GB | Spot | RTX A4000 16GB · clore · $0.062 · Spot |
| 24 GB – < 48 GB | Sob demanda | V100 SXM2 32GB · clore · $0.074 · Sob demanda |
| 24 GB – < 48 GB | Spot | RTX 3090 24GB · clore · $0.067 · Spot |
| 48 GB – < 80 GB | Sob demanda | CMP 170HX 64GB · clore · $0.231 · Sob demanda |
| 48 GB – < 80 GB | Spot | CMP 170HX 64GB · clore · $0.231 · Spot |
| 80 GB+ | Sob demanda | A100 PCIe 80GB · clore · $0.354 · Sob demanda |
| 80 GB+ | Spot | A100 PCIe 80GB · clore · $0.250 · Spot |
Exemplos observados e condições
RTX A4000 16GB 1×
JP
USD (stablecoin) • podem ser cobradas taxas da plataforma
$0.062 por GPU-hora
Custo mínimo faturável da instância: USD $0.062/hr · Duração mínima de cobrança desconhecida
Detalhes e fonte
SKU: 113131 · Disponibilidade: Disponível · A · API oficial
Nome de GPU informado: NVIDIA RTX A4000
VRAM informada: 16 GB
Valor horário no escopo original: USD $0.062/hr · Instância
Unidade de cobrança original: Instância-hora
2/2
16 GB
16 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página do registro da APIRTX A4000 16GB 1×
JP
USD (stablecoin) • podem ser cobradas taxas da plataforma
$0.062 por GPU-hora
Custo mínimo faturável da instância: USD $0.062/hr · Duração mínima de cobrança desconhecida
Detalhes e fonte
SKU: 113131 · Disponibilidade: Disponível · A · API oficial
Nome de GPU informado: NVIDIA RTX A4000
VRAM informada: 16 GB
Valor horário no escopo original: USD $0.062/hr · Instância
Unidade de cobrança original: Instância-hora
2/2
16 GB
16 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página do registro da APIRTX 3090 24GB 1×
PL
USD (stablecoin) • podem ser cobradas taxas da plataforma
$0.067 por GPU-hora
Custo mínimo faturável da instância: USD $0.067/hr · Duração mínima de cobrança desconhecida
Detalhes e fonte
SKU: 112743 · Disponibilidade: Disponível · A · API oficial
Nome de GPU informado: NVIDIA GeForce RTX 3090
VRAM informada: 24 GB
Valor horário no escopo original: USD $0.067/hr · Instância
Unidade de cobrança original: Instância-hora
16/32
64 GB
24 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página do registro da APIV100 SXM2 32GB 4×
RU
USD (stablecoin) • podem ser cobradas taxas da plataforma
$0.074 por GPU-hora
Custo mínimo faturável da instância: USD $0.295/hr · Duração mínima de cobrança desconhecida
Detalhes e fonte
SKU: 122717 · Disponibilidade: Disponível · A · API oficial
Nome de GPU informado: Tesla V100SXM232GB
VRAM informada: 32 GB
Valor horário no escopo original: USD $0.295/hr · Instância
Unidade de cobrança original: Instância-hora
24/48
192 GB
32 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página do registro da APICMP 170HX 64GB 9×
FI
USD (stablecoin) • podem ser cobradas taxas da plataforma
$0.231 por GPU-hora
Custo mínimo faturável da instância: USD $2.08/hr · Duração mínima de cobrança desconhecida
Detalhes e fonte
SKU: 115963 · Disponibilidade: Disponível · A · API oficial
Nome de GPU informado: NVIDIA CMP 170HX
VRAM informada: 64 GB
Valor horário no escopo original: USD $2.08/hr · Instância
Unidade de cobrança original: Instância-hora
4/8
32 GB
64 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página do registro da APICMP 170HX 64GB 9×
FI
USD (stablecoin) • podem ser cobradas taxas da plataforma
$0.231 por GPU-hora
Custo mínimo faturável da instância: USD $2.08/hr · Duração mínima de cobrança desconhecida
Detalhes e fonte
SKU: 115963 · Disponibilidade: Disponível · A · API oficial
Nome de GPU informado: NVIDIA CMP 170HX
VRAM informada: 64 GB
Valor horário no escopo original: USD $2.08/hr · Instância
Unidade de cobrança original: Instância-hora
4/8
32 GB
64 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página do registro da APIA100 PCIe 80GB 1×
US
USD (stablecoin) • podem ser cobradas taxas da plataforma
$0.250 por GPU-hora
Custo mínimo faturável da instância: USD $0.250/hr · Duração mínima de cobrança desconhecida
Detalhes e fonte
SKU: 124543 · Disponibilidade: Disponível · A · API oficial
Nome de GPU informado: NVIDIA A100 80GB PCIe
VRAM informada: 80 GB
Valor horário no escopo original: USD $0.250/hr · Instância
Unidade de cobrança original: Instância-hora
24/24
216 GB
80 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página do registro da APIA100 PCIe 80GB 1×
US
USD (stablecoin) • podem ser cobradas taxas da plataforma
$0.354 por GPU-hora
Custo mínimo faturável da instância: USD $0.354/hr · Duração mínima de cobrança desconhecida
Detalhes e fonte
SKU: 124543 · Disponibilidade: Disponível · A · API oficial
Nome de GPU informado: NVIDIA A100 80GB PCIe
VRAM informada: 80 GB
Valor horário no escopo original: USD $0.354/hr · Instância
Unidade de cobrança original: Instância-hora
24/24
216 GB
80 GB
Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).
Página do registro da APIFontes oficiais
Saiba o custo total do trabalho antes de alugar: GPU Budget Kit ($12)
Guias e comparações relacionados
- Preços de GPU: Spot e sob demanda
- Preço por GPU-hora e preço da instância
- Glossário de preços de GPU na nuvem
- GPUs mais baratas por GB de VRAM agora
- Modelos Llama
- Melhor GPU na nuvem para inferência LLM com Llama 3.1 8B (FP16)
- Melhor GPU na nuvem para inferência LLM com Llama 3.1 8B (4 bits)
- Melhor GPU na nuvem para inferência LLM com Llama 2 13B (FP16)
- Melhor GPU na nuvem para inferência LLM com Llama 2 13B (4 bits)
- Melhor GPU na nuvem para inferência LLM com Llama 3.1 70B (FP16)
- Melhor GPU na nuvem para inferência LLM com Llama 3.1 70B (4 bits)
- Modelos Qwen
- Melhor GPU na nuvem para inferência LLM com Qwen2.5 7B Instruct (FP16)
- Melhor GPU na nuvem para inferência LLM com Qwen2.5 7B Instruct (4 bits)
- Melhor GPU na nuvem para inferência LLM com Qwen2.5 14B Instruct (FP16)
- Melhor GPU na nuvem para inferência LLM com Qwen2.5 14B Instruct (4 bits)
- Melhor GPU na nuvem para inferência LLM com Qwen2.5 32B Instruct (FP16)
- Melhor GPU na nuvem para inferência LLM com Qwen2.5 32B Instruct (4 bits)
- Melhor GPU na nuvem para inferência LLM com Qwen2.5 72B Instruct (FP16)
- Melhor GPU na nuvem para inferência LLM com Qwen2.5 72B Instruct (4 bits)
- Modelos Mistral
- Reconhecimento de fala Whisper