Wesentliche Erkenntnisse
- NVIDIA OpenShell Reference Architecture liefert einen schlüsselfertigen, sicheren Laufzeit-Stack für Unternehmens-KI-Agenten in Rechenzentrum- und Edge-Umgebungen.
- Kernbausteine umfassen Vera Rubin (GPU-beschleunigte Berechnung), Vera CPUs (ARM-basierte Serverprozessoren), BlueField DPUs mit Sentry-Sicherheits-Firmware und das Open-Source-OpenShell-Runtime.
- Die Architektur unterstützt geschlossene und Open-Source-Foundation-Modelle wie Nemotron-80B und kann auf Edge-Plattformen wie RTX Spark, DGX Spark und DGX Station bereitgestellt werden.
- Kontinuierliche Out-of-Band-Überwachung und In-Silicon-Richtlinien-Durchsetzung reduzieren die Angriffsfläche für autonome Agenten in den Bereichen Einzelhandel, Gesundheitswesen, Fertigung, Robotik, Software und Telekommunikation.
Einführung: Warum eine dedizierte KI-Agent-Architektur wichtig ist
Unternehmen integrieren zunehmend autonome KI-Agenten in kritische Arbeitsabläufe – von Bestands-Optimierungs-Bots im Einzelhandel bis zu Diagnose-Assistenten in Krankenhäusern. Traditionelle KI-Stacks fehlen integrierte Isolation, Beobachtbarkeit und Richtlinien-Durchsetzung, wodurch Organisationen Datenlecks, Modell-Drift und bösartigem Verhalten ausgesetzt sind. Die NVIDIA OpenShell Reference Architecture (OSA) schließt diese Lücken, indem sie sichere Laufzeit-Software mit zweckgebauter Hardware verbindet und eine End-to-End-Produktions-Umgebung für KI-Agenten bereitstellt.
Kernkomponenten der OpenShell Reference Architecture
1. NVIDIA OpenShell Secure Runtime
- Open-Source-Framework (GPL-v3), das jeden Agenten in einem sandbox-basierten Container isoliert.
- Bietet hardware-verankerte Attestierung und kryptografisches Schlüssel-Management über die TPM-2.0-Schnittstelle.
2. Vera Rubin Compute Platform
| Spezifikation | Detail |
|---|---|
| GPU-Familie | H100 NVL (8 × HBM3, 2 TB/s Speicher-Bandbreite) |
| FP8 Tensor-Leistung | 1,2 PFLOPs pro GPU |
| Unterstützte Modelle | Nemotron-80B (80 B Parameter), Nemotron-22B, kundenspezifisch feinabgestimmte LLMs |
| Leistungs-Envelope | 350 W pro Knoten |
| Skalierung | Bis zu 64 GPUs pro Gehäuse via NVLink 4.0 |
Vera Rubin liefert die rohe KI-Leistung für sowohl geschlossene proprietäre Modelle als auch Open-Source-Foundation-Modelle.
3. Vera CPUs – ARM-basierte Serverprozessoren
- Basierend auf Neoverse-V1-Mikroarchitektur.
- 96 Kerne (8 × 12-Kern-Cluster) @ 3,0 GHz.
- 2 TB/s Speicher-Bandbreite (DDR5-5600).
- Integrierte PCIe 5.0 x16-Lanes für direkte GPU/DPU-Anbindung.
Vera-CPUs hosten die Agenten-Frameworks, koordinieren die Arbeitslastverteilung und führen nicht-GPU-intensive Aufgaben wie Datenvorverarbeitung und Richtlinien-Auswertung aus.
4. BlueField DPUs mit NVIDIA Sentry
| Merkmal | Wert |
|---|---|
| DPU-Modell | BlueField-3 DPU |
| CPU-Kerne | 8 × ARM Cortex-A78 |
| Netzwerk-Durchsatz | 200 Gbps Ethernet (4 × 50 GbE) |
| Off-load-Fähigkeiten | Verschlüsselung, Firewall, IDS/IPS, Telemetrie |
| Sentry-Framework | Kontinuierliche Out-of-Band-Überwachung, In-Silicon-Richtlinien-Durchsetzung |
DPUs fungieren als „Sicherheits-Gatekeeper“, entlasten Netzwerk- und Speicher-I/O, während Sentry das Verhalten der Agenten fortlaufend gegen vordefinierte Richtlinien prüft.
5. Edge-optimierte Plattformen
- RTX Spark: Kompakte Workstation mit einer einzigen RTX A6000 GPU (48 GB GDDR6) und integrierter BlueField-2 DPU für On-Premise-Inference.
- DGX Spark: 4-GPU (RTX A6000) Edge-Server, 1 TB NVMe-Speicher und zwei BlueField-3 DPUs.
- DGX Station: Mobile Workstation (2 × RTX A6000, 2 × Vera CPU) für KI-Agenten im Außendienst.
Diese Plattformen erweitern den sicheren OSA-Stack auf entfernte Standorte, wo Latenz und Daten-Souveränität entscheidend sind.
Erweiterbarkeit über Branchen hinweg
| Branche | Typischer Edge-Anwendungsfall | OSA-Vorteile |
|---|---|---|
| Einzelhandel | Echtzeit-Regal-Bestands-Bots | Sichere Datenerfassung, niedrige Latenz bei Inferenz |
| Gesundheitswesen | KI-unterstützte Bild-Triage | Patientendaten-Isolation, Prüfpfade |
| Fertigung | Predictive-Maintenance-Agenten | Gehärtete Firmware, deterministische Reaktion |
| Robotik | Autonome Navigations-Controller | In-Silicon-Sicherheits-Richtlinien, schnelle Modell-Updates |
| Software-Entwicklung | Code-Generierungs-Copiloten | Containerisierte Sandbox, richtlinien-gesteuerter API-Zugang |
| Telekommunikation | Netzwerk-Optimierungs-Agenten | DPUs übernehmen Paket-Inspektion, Sentry erzwingt QoS |
Vergleich: Traditioneller KI-Stack vs. NVIDIA OpenShell Architecture
| Aspekt | Traditioneller Stack | NVIDIA OpenShell Architecture |
|---|---|---|
| Runtime-Isolation | OS-Level-Container, keine Hardware-Attestierung | OpenShell-Sandbox + TPM-Attestierung |
| Sicherheits-Monitoring | Agenten-Logs (post-mortem) | Sentry kontinuierliche Out-of-Band-Telemetrie |
| Richtlinien-Durchsetzung | Software-Firewalls, manuelle Updates | In-Silicon-DPU-Richtlinien |
