Verbessern Sie Ihre KI- und HPC-Anwendungen mit NVIDIA H100 GPUs

05.11.2024 von Redaktion

Bereit für die Zukunft von KI und HPC: Ab Dezember 2024 liefert die Open Telekom Cloud mit NVIDIA H100 GPUs noch mehr Rechenpower und Effizienz.

In diesem Artikel lesen Sie,

was Sie von NVIDIAs neuer H100-GPU-Generation erwarten können,
welche Rolle sie für die Künstliche Intelligenz spielt
und wann die Open Telekom Cloud H100 GPUs einführen wird.

Da das letzte Quartal des Jahres 2024 bereits läuft, bereitet sich das Open Telekom Cloud Team darauf vor, seinen Nutzern ein besonderes Weihnachtsgeschenk zu machen: Zum Ende des Jahres werden die NVIDIA H100 Tensor Core GPUs mit ihrer erhöhten Rechenleistung verfügbar sein.

Jeder, der sich mit Künstlicher Intelligenz (KI) und Machine Learning beschäftigt, weiß: GPUs sind das Herzstück von Entwicklung, Training und Betrieb so ziemlich jedes KI-Dienstes. Da KI-Modelle wachsen, besser und vielfältiger werden, wächst der Bedarf an GPUs immens – und angesichts des hohen Preises und der Betriebskosten (Strom) für eine H100 GPU lassen sich diese Hochleistungsgeräte am besten bedarfsorientiert aus der Cloud nutzen.

Wir freuen uns, die Verfügbarkeit der NVIDIA H100 ankündigen zu können

Im Dezember 2024 erweitert die Open Telekom Cloud ihr GPU-Portfolio um die H100, als Familie der „p5 ECS“-Flavor. Diese GPU der nächsten Generation bietet eine beispiellose Leistung, Skalierbarkeit und Effizienz für ein breites Spektrum anspruchsvoller Workloads, von KI-Training und Inferenz bis hin zu High Performance Computing und Datenanalyse. Die Open Telekom Cloud wird im Dezember um mehr als 4 Petaflops zusätzliche GPU-Rechenleistung erweitert, um die steigenden Anforderungen ihrer Kunden zu unterstützen.

AmberSearch ist ein deutscher Anbieter von KI-Dienstleistungen und ein Nutzer der Open Telekom Cloud Ressourcen. Das Team von amberSearch sieht die zusätzlichen Möglichkeiten mit der Integration der H100-GPUs: „Für uns war die Telekom von Anfang an der beste deutsche Partner, um eine sichere Cloud-Infrastruktur für den Betrieb unserer KI-Lösung bereitzustellen“, erklärt Geschäftsführer Philipp Reißel.

Philipp Meisel, Geschäftsführer von ambersearch

Mit Hilfe der neuen H100 GPUs werden wir unseren Kunden noch bessere und schnellere KI-Lösungen anbieten können – made and hosted in Germany

– Philipp Reißel, Geschäftsführer von ambersearch

Zusätzliche Power für Künstliche Intelligenz

Nach Angaben von NVIDIA kann die neue GPU-Generation Exascale-Workloads erheblich beschleunigen. Die kombinierte technologische Innovation beschleunigt Large Language Models um das 30-fache (KI-Inferenztest auf einem Megatron-Chatbot mit 530 Milliarden Parametern) und steigert das Modelltraining um den Faktor 4 im Vergleich zu A100 GPUs (GPT 3).

Die wichtigsten Vorteile für Ihre Anwendungsfälle

Unvergleichliche KI-Leistung
P5-Instanzen, die von den hochmodernen NVIDIA H100 Tensor Core-Grafikprozessoren angetrieben werden, ermöglichen eine beträchtliche Verkürzung der Trainingszeit im Vergleich zu GPU-basierten Instanzen der vorherigen Generation, wodurch die Trainingszeit von Tagen auf Stunden reduziert wird. Dank dieser Leistungssteigerung können Sie die Trainingskosten erheblich senken und schnellere Ergebnisse und größere Kosteneffizienz bieten.
Außergewöhnliche Skalierbarkeit
Die H100 wurde für die Verarbeitung umfangreicher Datensätze und die Durchführung komplexer Berechnungen entwickelt und eignet sich perfekt für Unternehmen, die Flexibilität und Skalierbarkeit benötigen. Ganz gleich, ob Sie eine einzelne GPU oder mehrere Grafikprozessoren benötigen, die H100 ermöglicht Ihnen die Bereitstellung skalierbarer Lösungen.
Unterstützung für verschiedene Workloads
Von High Performance Computing (HPC) und Datenanalyse bis hin zu KI, maschinellem Lernen und Deep Learning – die H100 beschleunigt Workloads in verschiedenen Branchen. Sie können jetzt einem breiteren Spektrum von Kunden hochwertige Dienste mit bemerkenswerter Geschwindigkeit und Durchsatz anbieten.

Kunden können aus vier verschiedenen Varianten von ECS-Instanzen wählen, die eine einzelne GPU oder bis zu acht GPUs in einer virtuellen Maschine nutzen.

Flavor	vCPU	RAM	GPUs
p5s.5xlarge.12	20	240	1
p5s.10xlarge.12	40	480	2
p5s.20xlarge.12	80	960	4
p5s.40xlarge.12	160	1920	8

Einzelheiten zu den Preisen finden Sie in der Leistungsbeschreibung. Weitere Details werden mit den ECS Release Notes veröffentlicht, sobald die neuen Instanzen verfügbar sind.

Machen Sie sich bereit, Ihre Cloud-Lösungen mit der fortschrittlichsten GPU-Technologie von NVIDIA zu verbessern!

Diese Inhalte könnten Sie auch interessieren

Die Open Telekom Cloud bietet passende Optionen für Künstliche Intelligenz.

Der fliegende Start in die Künstliche Intelligenz

Die Cloud bietet verschiedene Möglichkeiten, um schnell Services mit Künstlicher Intelligenz (KI) zu realisieren – individuell zugeschnitten auf Unternehmensanspruch und Strategie.