- NVIDIA® T4 GPU GPU
- 16 GB (v)GPU-Speicher
- 128 GB RAM
Details werden geladen…
639,17 €
Durchschnittspreis pro Monat
590,00 €/Monat zzgl. Setup 590,00 €
Du hast noch keine Angebote oder Anbieter gemerkt. Tippe auf das Lesezeichen bei einem Angebot oder auf „Merken“ im Anbieterprofil.
Du suchst vLLM Hosting auf einem leistungsstarken GPU Server? Hier findest du GPU-Server-Angebote für skalierbares LLM-Serving, performante Inferenz, OpenAI-kompatible APIs und den produktiven Betrieb großer Sprachmodelle.
Zurück zum GPU-Server Vergleich
Details werden geladen…
639,17 €
Durchschnittspreis pro Monat
590,00 €/Monat zzgl. Setup 590,00 €
Details werden geladen…
131,65 €*
Durchschnittspreis pro Monat
129,99 €/Monat zzgl. Setup 19,90 €
Vertragslaufzeit: 12 Monate
Details werden geladen…
144,00 €*
Durchschnittspreis pro Monat
144,00 €/Monat
Details werden geladen…
172,00 €*
Durchschnittspreis pro Monat
172,00 €/Monat
Tipp: Wähle bis zu 3 Angebote und vergleiche sie miteinander.
Details werden geladen…
235,00 €*
Durchschnittspreis pro Monat
235,00 €/Monat
Details werden geladen…
246,65 €*
Durchschnittspreis pro Monat
244,99 €/Monat zzgl. Setup 19,90 €
Vertragslaufzeit: 12 Monate
Details werden geladen…
357,25 €
Durchschnittspreis pro Monat
349,00 €/Monat zzgl. Setup 99,00 €
Vertragslaufzeit: 1 Monat
Details werden geladen…
357,25 €
Durchschnittspreis pro Monat
349,00 €/Monat zzgl. Setup 99,00 €
Vertragslaufzeit: 1 Monat
Details werden geladen…
360,00 €*
Durchschnittspreis pro Monat
360,00 €/Monat
Details werden geladen…
372,00 €*
Durchschnittspreis pro Monat
372,00 €/Monat
Details werden geladen…
385,00 €*
Durchschnittspreis pro Monat
385,00 €/Monat
* Bei hosttest ist lediglich eine Auswahl von Anbietern zu finden. Mit Sternchen gekennzeichnete Angebote weisen weitere Bedingungen auf der Angebotsdetailseite aus. Mehr Informationen zu unseren Ranking- und Sortierungsdetails
Nicht das Richtige gefunden?
Jetzt kostenlos & unverbindlich individuelle Ausschreibung aufgeben und Angebote innerhalb kürzester Zeit erhalten.
Ausschreibung startenvLLM ist auf die effiziente Bereitstellung von Large Language Models ausgerichtet. Ein GPU-Server stellt die Rechenleistung und den Grafikspeicher bereit, die für kurze Antwortzeiten, hohen Durchsatz und mehrere gleichzeitige Anfragen benötigt werden.
Die passende Hardware hängt von Modellgröße, Quantisierung, Kontextlänge und Parallelität ab. Besonders wichtig sind ausreichend VRAM, eine hohe Speicherbandbreite, schneller NVMe-Speicher und eine stabile Netzwerkanbindung. Für Modelle, die nicht auf eine einzelne GPU passen, können Multi-GPU-Systeme und verteiltes Serving erforderlich sein.
vLLM eignet sich besonders für produktive Inferenz und hohe Auslastung. Als Alternativen kommen unter anderem SGLang GPU Server oder ein allgemeiner LLM GPU Server infrage. Vergleiche GPU, VRAM, Abrechnung, Skalierung und Betriebssystemunterstützung passend zu deinem Modell.
Tags zu diesem Vergleich
Speichern nicht möglich. Bitte erlaube Cookies für diese Website oder entferne Einträge, wenn Deine Merkliste voll ist.