CNC Milling

AWS und NVIDIA planen, bis 2028 2 Millionen GPUs hinzuzufügen.

AWS und NVIDIA planen, bis 2028 2 Millionen GPUs hinzuzufügen.

Amazon Web Services (AWS) und NVIDIA haben eine umfangreiche Erweiterung ihrer strategischen Zusammenarbeit angekündigt, um der steigenden globalen Nachfrage nach KI-Infrastruktur gerecht zu werden, da die Nachfrage weiter zunimmt. Aufbauend auf der bereits schnellen Kundenakzeptanz von NVIDIA-beschleunigtem Rechnen auf AWS planen die Unternehmen, zusätzlich 2 Millionen NVIDIA-GPUs in der globalen Infrastruktur von AWS zu installieren und ihre Zusammenarbeit in den Bereichen KI-Fabriken, CPUs, Netzwerk, offene Modelle, Datenverarbeitung und Robotik zu vertiefen, um gemeinsam entwickelte KI-Lösungen bereitzustellen, die Kunden ermöglichen, die KI-Entwicklung und -Einführung in bislang ungekanntem Maßstab zu beschleunigen.

KI-Arbeitslasten skalieren in rasantem Tempo, von der Art und Weise, wie Modelle trainiert und ausgeführt werden, bis hin zur Datenverarbeitung, Indexierung und Nutzung für intelligente Anwendungen. Kunden wechseln vom Pilot- zum Produktionsbetrieb und skalieren Arbeitslasten in den Bereichen agentische KI, wissenschaftliche Entdeckungen, Unternehmensautomatisierung und Robotik. Sie benötigen eine breitere Modellauswahl, schnellere Datenpipelines und neue Fähigkeiten für aufkommende Anwendungsfälle wie physische KI. Zudem benötigen sie die Gewissheit, dass die zugrunde liegende Infrastruktur mit ihrer Innovationsgeschwindigkeit Schritt halten kann, während sie das höchste Maß an Sicherheit und Zuverlässigkeit für geschäftskritische Arbeitslasten aufrechterhält.

Um dieser wachsenden Nachfrage von Spitzenlabors, globalen Unternehmen, Start-ups und Regierungen gerecht zu werden, bauen AWS und NVIDIA auf 16 Jahre gemeinsamer Innovation, um die KI-Rechenkapazität zu erweitern und neue gemeinsam entwickelte Lösungen schneller zu den Kunden zu bringen. Im Rahmen der erweiterten Zusammenarbeit arbeiten die Unternehmen daran:

  • 2 Millionen zusätzliche NVIDIA-GPUs in der globalen Infrastruktur von AWS in den Jahren 2027-2028 zu deployen
  • NVIDIA Vera-CPU-basierte Infrastruktur zu AWS zu bringen
  • NVIDIA NVLink Fusion mit kundenspezifischem NVIDIA-High-Bandwidth-Memory (NVHBM) zu erweitern
  • KI-Fabriken für die US-Regierung zu bauen, einschließlich 100 000 GPUs auf sicherer AWS-Infrastruktur für den Betrieb von Bundes- und national-sicherheitsrelevanten Arbeitslasten
  • Die NVIDIA-Plattform mit dem AWS Nitro System und dem Elastic Fabric Adapter (EFA) zu integrieren, um Sicherheit und Zuverlässigkeit zu erhöhen
  • Weiterhin NVIDIA Nemotron-Open-Modelle auf Amazon Bedrock und Amazon SageMaker zu unterstützen, um Kunden mehr Auswahl offener Modelle zu bieten
  • Datenverarbeitung und Vektor-Indexierung auf Amazon EMR und Amazon OpenSearch mit den NVIDIA-cuDF- und cuVS-CUDA-X-Bibliotheken zu beschleunigen, um schnellere und kosteneffizientere Analysen und KI-Anwendungen zu ermöglichen
  • Robotics-Arbeitslasten weiter voranzutreiben, indem Amazon Robotics die physische KI-Plattform von NVIDIA übernimmt, um Innovationen in der Lagerautomatisierung und bei nächsten-Generation-Robotern zu beschleunigen

Massive Erweiterung der KI-Rechenkapazität

AWS bietet das breiteste Spektrum an GPU-basierten Instanzen aller Cloud-Anbieter, um ein vielfältiges Set an KI- und Machine-Learning-Arbeitslasten zu betreiben. Auf der NVIDIA GTC 2026 hat AWS Pläne angekündigt, ab 2026 mehr als 1 Million NVIDIA-GPUs hinzuzufügen. Seitdem hat die Nachfrage diese Erwartungen übertroffen. AWS plant, zusätzlich 2 Millionen NVIDIA Blackwell Ultra, Rubin und Rubin Ultra GPUs in den Jahren 2027-2028 über die globale Infrastruktur von AWS, einschließlich KI-Fabriken, zu deployen. Diese zusätzliche Kapazität wird Kunden-Arbeitslasten von agentischer KI und wissenschaftlicher Entdeckung bis hin zu Unternehmensautomatisierung und physischer KI unterstützen. Darüber hinaus wird AWS die NVIDIA Blackwell-Kapazität ausbauen, einschließlich NVIDIA RTX PRO 4500 Blackwell Server Edition GPUs für Amazon EC2 G7-Instanzen. G7-Instanzen liefern 4,6-fach höhere KI-Inference-Leistung und 2,1-fach höhere Grafikleistung im Vergleich zu den vorherigen G6-Instanzen. AWS ist der erste große Cloud-Anbieter, der Compute-Instanzen mit RTX PRO 4500 anbietet. AWS und NVIDIA arbeiten zudem an NVIDIA Spectrum-Netzwerk-Technologie, um die Netzwerkleistung für großskalige KI-Training-Arbeitslasten über GPU-Cluster weiter zu optimieren.

Unterstützung für NVIDIA Vera-CPUs auf AWS

AWS und NVIDIA arbeiten daran, Vera-CPU-basierte Infrastruktur zu AWS zu bringen, um eine zusätzliche Option zur Unterstützung von agentischen KI-Arbeitslasten zu bieten, die leistungsstarke CPU-Rechenleistung neben beschleunigter Infrastruktur benötigen. Speziell für die nächste Generation von KI entwickelt, ergänzt Vera die AWS-Strategie, die breiteste Auswahl an Compute-Optionen anzubieten – von eigenem AWS-Silicon bis zu den neuesten Beschleunigern und CPUs von Partnern.

Heterogene KI-Infrastruktur mit NVIDIA NVLink Fusion und NVHBM

Auf re:Invent 2025 kündigte AWS die Unterstützung der NVIDIA NVLink Fusion-Hochgeschwindigkeits-Chip-Interconnect-Technologie in nächsten-Generation-Trainium-Chips an. NVIDIA und die Annapurna Labs von Amazon erweitern diese Unterstützung, um mit NVIDIAs neuer kundenspezifischer High-Bandwidth-Memory-Technologie (NVHBM) in Zusammenarbeit mit Speicherlieferanten zu arbeiten, was Trainium Zugriff auf schnelleren, energieeffizienteren Speicher geben würde. Kombiniert mit NVLink Fusion kann Annapurna Labs nun NVIDIAs kundenspezifische Speichertechnologie nutzen und die Architektur skalieren, um Leistung und Effizienz für KI-Arbeitslasten zu steigern, während Trainium und GPUs nahtlos in einer gemeinsamen Rack-Scale-Architektur integriert werden.

Betreiben von föderaler KI auf höchstem Sicherheitsniveau

Regierungsbehörden benötigen sichere KI-Infrastruktur, um mit den Anforderungen der nationalen Sicherheit Schritt zu halten. AWS und NVIDIA planen den Bau von KI-Fabriken für die US-Regierung, die den NVIDIA-KI-Stack bereitstellen, einschließlich der Bereitstellung von 100 000 GPUs auf sicherer AWS-Infrastruktur für föderale und national-sicherheitsrelevante Arbeitslasten. Diese Zusammenarbeit stellt AWS und NVIDIA ins Zentrum des föderalen KI-Fortschritts für die nationale Sicherheit und ermöglicht es Regierungsbehörden, KI in großem Umfang für Arbeitslasten mit Impact Level 6 (IL6) und höher einzusetzen.

Diese neuen Verpflichtungen bauen auf einer Grundlage tiefer technischer Integrationen zwischen AWS und NVIDIA auf, die bereits heute Ergebnisse für Kunden liefern, darunter:

  • Erhöhte Sicherheit und Zuverlässigkeit mit dem AWS Nitro System und EFA — Im Rahmen dieser erweiterten Zusammenarbeit werden alle NVIDIA-GPU-basierten und Trainium-basierten EC2-Instanzen — einschließlich derjenigen, die NVLink Fusion nutzen — auf dem AWS Nitro System aufgebaut und über EFA vernetzt. Sowohl GPU-beschleunigte als auch Trainium-basierte EC2-Instanzen werden weiterhin auf dem Nitro System basieren und über EFA skaliert. Gemeinsam helfen Nitro und EFA sicherzustellen, dass Kunden, wenn AWS seine NVIDIA-GPU-Flotte erweitert und neue Interconnect-Technologien integriert, die Sicherheit, Zuverlässigkeit und Netzwerkleistung behalten, die sie für produktive KI-Arbeitslasten in großem Maßstab benötigen.
  • NVIDIA Nemotron-Modelle auf AWS — Im Rahmen von AWS‘ Engagement, Kunden die breiteste Auswahl an KI-Modellen zu bieten, ist die Nemotron-Familie offener Modelle von NVIDIA auf Amazon Bedrock als vollständig verwaltete, serverlose Modelle und auf Amazon SageMaker für Kunden verfügbar, die sie in ihrer eigenen Infrastruktur bereitstellen und feinabstimmen möchten. Diese Integration gibt Kunden Zugriff auf NVIDIAs neueste offene Modelle mit der Sicherheit, Skalierbarkeit und den betrieblichen Tools von AWS.
  • GPU-beschleunigte Datenverarbeitung und Vektor-Indexierung — Mit wachsendem Datenvolumen erfordern Arbeitslasten wie Feature-Engineering, großskalige ETL und Echtzeitanalysen immer schnellere Verarbeitung. AWS und NVIDIA arbeiten zusammen, um GPU-beschleunigte Datenverarbeitung auf Amazon EMR mit Amazon EC2 G7-Instanzen und der NVIDIA-cuDF-Bibliothek zu liefern, was bis zu 3,7-fach schnellere Verarbeitungszeiten und 30 % bessere Preis-Leistung gegenüber CPU-basierten Konfigurationen ermöglicht. Separat, wenn KI-Anwendungen, Retrieval-Augmented-Generation-Pipelines und semantische Suche Vektor-Datenbanken auf Milliarden von Datensätzen ausdehnen, wird der Indexaufbau zum Engpass. GPU-beschleunigte Vektor-Indexierung auf Amazon OpenSearch Service verlagert den Indexaufbau auf dedizierte GPUs und liefert bis zu 9-fach schnellere Vektor-Indexierung bei einem Viertel der Kosten – verfügbar sowohl für verwaltete Cluster als auch für Amazon OpenSearch Serverless.
  • Physische KI für Robotik — Amazon Robotics arbeitet mit NVIDIA zusammen, um die Entwicklung der nächsten Generation von Robotern zu beschleunigen, die NVIDIAs Full-Stack-Physische-KI-Plattform integrieren, einschließlich der NVIDIA Jetson-Plattform, NVIDIA Omniverse-Bibliotheken und der NVIDIA Isaac-Open-Robotics-Entwicklungsplattform. Die Zusammenarbeit umfasst Simulation, synthetische Datengenerierung, Roboter-Training, Routenoptimierung, funktionale Sicherheit und Real-to-Sim-Validierung – alles läuft auf GPU-beschleunigten Amazon EC2-Instanzen. Gemeinsam helfen AWS und NVIDIA, die Fähigkeiten voranzutreiben, die Robotik-Arbeitslasten im großen Maßstab benötigen: massive Simulation, vielfältige Trainingsdaten und kontinuierliche Validierung in der realen Welt.

Für weitere Informationen besuchen Sie nvidia.com.

The post AWS and NVIDIA plan to add 2 million GPUs by 2028 appeared first on Engineering.com.

Passende Maschinen zu verkaufen

Alle durchsuchen →

Ähnliche Artikel