GPU-Preisindex
Sprache / Deutsch

GPU-Cloud für LLM-Inferenz auswählen

Klären Sie zuerst den Speicherbedarf des Modells und vergleichen Sie dann die abzurechnende GPU-Zuteilung, Region und Preisart. Ein niedriger GPU-Stundensatz belegt weder, dass das Modell in den Speicher passt, noch die Kosten der ganzen Instanz.

Aktuell bezeichnet geeignete Beobachtungen im datierten Datenbankstand dieses Builds, keine neue Bestandsprüfung oder ein weltweites Minimum. Berechnet werden ganze GPUs in USD, Standardregionen oder unbekannte Regionen, Steuern ausgeschlossen oder unbekannt. Spot bleibt getrennt. Veraltete Daten, Teil-GPUs, beworbene Ab-Preise und reine GPU-Komponenten sind ausgeschlossen. Quellen-, Steuer-, Marktplatz-, Wechselkurs- und Abrechnungsangaben stehen auf den Angebotskarten.

Preisbeobachtungen vom: 2026-11-18

Die Tabelle berechnet idealen Gewichtsspeicher aus den in der Datenbank hinterlegten nominalen Parameterzahlen der Modellkarte. FP16 benötigt zwei Byte je Parameter, dicht gepackte Vierbit-Gewichte ein halbes Byte. Die Einheit ist dezimales GB, nicht GiB. Das sind rechnerische Schätzungen nominaler Größen, kein gemessener VRAM-Bedarf: Quantisierungsmetadaten, KV-Cache, Aktivierungen und Laufzeit benötigen zusätzlichen Speicher. Kontextlänge und Parallelität verändern den Bedarf. Speichergröße belegt keinen Durchsatz; mehrere GPUs erfordern unterstütztes Sharding. Prüfen Sie Schätzer und Cache-Dokumentation.

Berechnete Speicherschätzungen aus belegten Datenbankreferenzen
GPU-ModellNominale Parameter (Milliarden)Nur FP16-Gewichte (GB)Nur gepackte Vierbit-Gewichte (GB)
Llama 2 7B7143.5
Llama 2 13B13266.5
Llama 2 70B7014035

Planen Sie zusätzlich zum Speicher für die Modellgewichte eine Reserve ein und testen Sie die vorgesehene Kontextlänge, Stapelgröße und Präzision. Die Speicherbereiche pro GPU überschneiden sich nicht. Die niedrigsten beobachteten Preise bilden eine Kandidatenliste, keine Empfehlung oder Garantie, dass ein Modell in den Speicher passt. Prüfen Sie Zuteilung, Standort und Quellenbedingungen auf den verlinkten Modell- und Anbieterseiten.

Aktuelle geeignete Angebote nach Speicherbereich und Tarif
VRAM-Bereich pro GPUPreisartNiedrigster beobachteter USD/GPU-Stundensatz
16 GB – < 24 GBOn-DemandRTX A4000 16GB · clore · $0.062 · On-Demand
16 GB – < 24 GBSpotRTX A4000 16GB · clore · $0.062 · Spot
24 GB – < 48 GBOn-DemandV100 SXM2 32GB · clore · $0.074 · On-Demand
24 GB – < 48 GBSpotRTX 3090 24GB · clore · $0.067 · Spot
48 GB – < 80 GBOn-DemandCMP 170HX 64GB · clore · $0.231 · On-Demand
48 GB – < 80 GBSpotCMP 170HX 64GB · clore · $0.231 · Spot
80 GB+On-DemandA100 PCIe 80GB · clore · $0.354 · On-Demand
80 GB+SpotA100 PCIe 80GB · clore · $0.250 · Spot

Beobachtete Beispiele und Angebotsbedingungen

RTX A4000 16GB 1×

Clore.aiOn-DemandSteuerbasis unbekanntA · Offizielle APICommunity-Marktplatz

JP

USD (Stablecoin) • Plattformgebühren können anfallen

USD $0.062/hr

$0.062 pro GPU-Stunde

pro Instanzstunde · geprüft um

Mindestkosten der abrechenbaren Instanz: USD $0.062/hr · Mindestabrechnungsdauer unbekannt

Bei Clore.ai ansehen →Alle Angebote →
Details & Quelle

SKU: 113131 · Verfügbarkeit: Verfügbar · A · Offizielle API

Gemeldeter GPU-Name: NVIDIA RTX A4000

Gemeldeter VRAM: 16 GB

Stundenpreis im Abrechnungsumfang der Quelle: USD $0.062/hr · Instanz
Abrechnungseinheit der Quelle: Instanzstunde
2/2
16 GB
16 GB

Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).

API-Datensatzseite

RTX A4000 16GB 1×

Clore.aiSpotSteuerbasis unbekanntA · Offizielle APICommunity-Marktplatz

JP

USD (Stablecoin) • Plattformgebühren können anfallen

USD $0.062/hr

$0.062 pro GPU-Stunde

pro Instanzstunde · geprüft um

Mindestkosten der abrechenbaren Instanz: USD $0.062/hr · Mindestabrechnungsdauer unbekannt

Bei Clore.ai ansehen →Alle Angebote →
Details & Quelle

SKU: 113131 · Verfügbarkeit: Verfügbar · A · Offizielle API

Gemeldeter GPU-Name: NVIDIA RTX A4000

Gemeldeter VRAM: 16 GB

Stundenpreis im Abrechnungsumfang der Quelle: USD $0.062/hr · Instanz
Abrechnungseinheit der Quelle: Instanzstunde
2/2
16 GB
16 GB

Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).

API-Datensatzseite

RTX 3090 24GB 1×

Clore.aiSpotSteuerbasis unbekanntA · Offizielle APICommunity-Marktplatz

PL

USD (Stablecoin) • Plattformgebühren können anfallen

USD $0.067/hr

$0.067 pro GPU-Stunde

pro Instanzstunde · geprüft um

Mindestkosten der abrechenbaren Instanz: USD $0.067/hr · Mindestabrechnungsdauer unbekannt

Bei Clore.ai ansehen →Alle Angebote →
Details & Quelle

SKU: 112743 · Verfügbarkeit: Verfügbar · A · Offizielle API

Gemeldeter GPU-Name: NVIDIA GeForce RTX 3090

Gemeldeter VRAM: 24 GB

Stundenpreis im Abrechnungsumfang der Quelle: USD $0.067/hr · Instanz
Abrechnungseinheit der Quelle: Instanzstunde
16/32
64 GB
24 GB

Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).

API-Datensatzseite

V100 SXM2 32GB 4×

Clore.aiOn-DemandSteuerbasis unbekanntA · Offizielle APICommunity-Marktplatz

RU

USD (Stablecoin) • Plattformgebühren können anfallen

USD $0.295/hr

$0.074 pro GPU-Stunde

pro Instanzstunde · geprüft um

Mindestkosten der abrechenbaren Instanz: USD $0.295/hr · Mindestabrechnungsdauer unbekannt

Bei Clore.ai ansehen →Alle Angebote →
Details & Quelle

SKU: 122717 · Verfügbarkeit: Verfügbar · A · Offizielle API

Gemeldeter GPU-Name: Tesla V100SXM232GB

Gemeldeter VRAM: 32 GB

Stundenpreis im Abrechnungsumfang der Quelle: USD $0.295/hr · Instanz
Abrechnungseinheit der Quelle: Instanzstunde
24/48
192 GB
32 GB

Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).

API-Datensatzseite

CMP 170HX 64GB 9×

Clore.aiOn-DemandSteuerbasis unbekanntA · Offizielle APICommunity-Marktplatz

FI

USD (Stablecoin) • Plattformgebühren können anfallen

USD $2.08/hr

$0.231 pro GPU-Stunde

pro Instanzstunde · geprüft um

Mindestkosten der abrechenbaren Instanz: USD $2.08/hr · Mindestabrechnungsdauer unbekannt

Bei Clore.ai ansehen →Alle Angebote →
Details & Quelle

SKU: 115963 · Verfügbarkeit: Verfügbar · A · Offizielle API

Gemeldeter GPU-Name: NVIDIA CMP 170HX

Gemeldeter VRAM: 64 GB

Stundenpreis im Abrechnungsumfang der Quelle: USD $2.08/hr · Instanz
Abrechnungseinheit der Quelle: Instanzstunde
4/8
32 GB
64 GB

Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).

API-Datensatzseite

CMP 170HX 64GB 9×

Clore.aiSpotSteuerbasis unbekanntA · Offizielle APICommunity-Marktplatz

FI

USD (Stablecoin) • Plattformgebühren können anfallen

USD $2.08/hr

$0.231 pro GPU-Stunde

pro Instanzstunde · geprüft um

Mindestkosten der abrechenbaren Instanz: USD $2.08/hr · Mindestabrechnungsdauer unbekannt

Bei Clore.ai ansehen →Alle Angebote →
Details & Quelle

SKU: 115963 · Verfügbarkeit: Verfügbar · A · Offizielle API

Gemeldeter GPU-Name: NVIDIA CMP 170HX

Gemeldeter VRAM: 64 GB

Stundenpreis im Abrechnungsumfang der Quelle: USD $2.08/hr · Instanz
Abrechnungseinheit der Quelle: Instanzstunde
4/8
32 GB
64 GB

Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).

API-Datensatzseite

A100 PCIe 80GB 1×

Clore.aiSpotSteuerbasis unbekanntA · Offizielle APICommunity-Marktplatz

US

USD (Stablecoin) • Plattformgebühren können anfallen

USD $0.250/hr

$0.250 pro GPU-Stunde

pro Instanzstunde · geprüft um

Mindestkosten der abrechenbaren Instanz: USD $0.250/hr · Mindestabrechnungsdauer unbekannt

Bei Clore.ai ansehen →Alle Angebote →
Details & Quelle

SKU: 124543 · Verfügbarkeit: Verfügbar · A · Offizielle API

Gemeldeter GPU-Name: NVIDIA A100 80GB PCIe

Gemeldeter VRAM: 80 GB

Stundenpreis im Abrechnungsumfang der Quelle: USD $0.250/hr · Instanz
Abrechnungseinheit der Quelle: Instanzstunde
24/24
216 GB
80 GB

Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).

API-Datensatzseite

A100 PCIe 80GB 1×

Clore.aiOn-DemandSteuerbasis unbekanntA · Offizielle APICommunity-Marktplatz

US

USD (Stablecoin) • Plattformgebühren können anfallen

USD $0.354/hr

$0.354 pro GPU-Stunde

pro Instanzstunde · geprüft um

Mindestkosten der abrechenbaren Instanz: USD $0.354/hr · Mindestabrechnungsdauer unbekannt

Bei Clore.ai ansehen →Alle Angebote →
Details & Quelle

SKU: 124543 · Verfügbarkeit: Verfügbar · A · Offizielle API

Gemeldeter GPU-Name: NVIDIA A100 80GB PCIe

Gemeldeter VRAM: 80 GB

Stundenpreis im Abrechnungsumfang der Quelle: USD $0.354/hr · Instanz
Abrechnungseinheit der Quelle: Instanzstunde
24/24
216 GB
80 GB

Listed whole-server daily price divided by 24 and GPU count. Platform service fees may apply; tax treatment unknown. Stablecoin-denominated USD price (USD-Blockchain).

API-Datensatzseite

Offizielle Quellen

Vor dem Mieten die gesamten Jobkosten kennen: GPU Budget Kit ($12)

Weitere Ratgeber und Vergleiche

Methodik & Quellen