PaleBlueDot AI, NVIDIA HGX B300 kümesinin büyük-model eğitim iş yükleri için NVIDIA Exemplar Cloud durumuna ulaştığını duyurdu. NVIDIA’nin mühendislik ekibiyle yakın çalışarak Şirket, her benchmark tarifinde NVIDIA’nin performans gereksinimlerini karşıladı ve tüm testlerde %95 performans eşiğinin üzerindeydi. Bu tanıma, kümenin performansını, dayanıklılığını ve ölçeklenebilirliğini doğruluyor, AI laboratuvarları ve kurumsal müşterilere büyük ölçekli eğitim iş yüklerini çalıştırırken daha fazla güven veriyor.
NVIDIA Exemplar Cloud Nedir?
NVIDIA, 2025 yılında gerçek bir sorunu çözmek için Exemplar Cloud’u kurdu: üretim ölçeğinde AI iş yüklerini çalıştırmak, veri merkezi ölçeğinde bir zorluktur ve tüm altyapı yığını boyunca optimizasyon gerektirir. Bu optimizasyon bozulduğunda performans düşer. Kullanıcılar yavaş yanıtlar, artan işlem maliyetleri, öngörülemez güvenilirlik ve yüksek TCO görür, yenilik yavaşlar. Exemplar Cloud, sağlayıcıların altyapılarını doğrulamak için standart bir benchmark sunar, böylece alıcılar bir iddiadan ziyade standart bir referansa göre karşılaştırma yapabilir.
Bu Exemplar Cloud durumu, satın alma incelemeleri ve proje bütçe onayları sırasında güvenilir bir performans referansı sunarak AI laboratuvarları ve kurumsal müşterilere somut avantajlar sağlar.
Gerçek dünya eğitim iş yüklerinde doğrulanmış performans
PaleBlueDot AI’nin benchmark kampanyası, altı popüler büyük-model eğitim iş yükünü kapsadı: DeepSeek-V3, GPT-OSS, Nemotron-H, Qwen3 ve iki farklı Llama 3.1 yapılandırması. Bu seçim, günümüzün öncü eğitimini tanımlayan model ailelerini kapsar.
Her test çalışması, NVIDIA referans performansının %98’inin üzerindeydi. Sonuçlar, orta ölçekli ile öncü sınıf arasında değişen parametre ölçekleri ve çeşitli sayısal hassasiyet formatlarıyla farklı model mimarileri arasında tutarlıydı; bu, kümenin referans eğitim performansını tek bir avantajlı yapılandırmanın sonucu olmaktan ziyade kalıcı bir özellik olarak sunduğunu gösterir.
Bu sonuçlar, farklı model mimarileri, parametre ölçekleri ve sayısal hassasiyet formatları arasında tutarlı, optimize edilmiş eğitim performansı sunma yeteneğimizi kanıtlamaktadır.
Ölçekli performans ve güvenilirlik için tasarlandı
PaleBlueDot AI’nin Blackwell Ultra kümesi, NVIDIA HGX B300 sistemleri üzerine inşa edilmiştir. Her hesaplama düğümü, NVIDIA NVLink ve NVIDIA NVLink Switch aracılığıyla bağlanan sekiz NVIDIA Blackwell Ultra GPU’ya sahiptir; bu, her düğüm içinde tam bağlı bir AI altyapı hesaplama alanı oluşturur.
HGX B300 eğitim kümesi, 800Gb/s kesintisiz NVIDIA Quantum-X800 InfiniBand ağ mimarisi kullanır; bu, üretim ölçeğinde dağıtılmış eğitimin verimliliğini sık sık sınırlayan düğüm-arası iletişim darboğazlarını ortadan kaldırır. Her GPU, 800Gb/s yüksek hızlı ağ bağlantısına sahiptir ve düğüm başına 6,4 Tb/s’a kadar toplu işlem-ağ bant genişliği sağlar.
PaleBlueDot AI, altyapıyı şu bütünleşik sistemle optimize etti:
- Hızlandırılmış hesaplama ve sistem ayarı: NVIDIA Blackwell Ultra GPU’lar ve veri merkezinin yüksek yoğunluklu güç ve hava soğutma tasarımıyla uyumlu özelleştirilmiş donanım yapılandırmaları, GPU başına hesaplama çıktısını maksimize eder.
- Yüksek performanslı ağ mimarisi: 800Gb/s kesintisiz NVIDIA Quantum-X800 InfiniBand kumaşı, büyük ölçekli dağıtılmış eğitim için kayıpsız, düşük gecikmeli iletişim sağlar.
- Yüksek verimli depolama: Paralel depolama sistemi ve düğüm başına 63,36 TB yerel NVMe önbellek, eğitim verisi yüklemelerini ve sık checkpoint işlemlerini hızlandırır.
- İş yükü zamanlaması ve kaynak orkestrasyonu: Optimize edilmiş zamanlama mantığı kaynak kullanımını artırır, işlem israfını azaltır ve boşta eğitim maliyetlerini düşürür.
- Tüm yaşam döngüsü küme izleme ve operasyonları: Otomatik 24/7 uyarı ve operasyon mekanizmaları, uzun süren eğitim iş yüklerine beklenmeyen kesintileri azaltır.
Küme ayrıca topoloji-bilinçli zamanlama, NVIDIA GPUDirect RDMA, toplu iletişim optimizasyonu ve sağlıksız düğümlerin otomatik izolasyonunu içerir. Birlikte, bu yetenekler büyük ölçekli eğitim verimliliğini artırır ve altyapı hatalarının aktif iş yükleri üzerindeki etkisini azaltır.
Sürekli tam yük operasyonu için doğrulandı
NVIDIA’nin benchmark değerlendirmesinin ötesinde, PaleBlueDot AI HGX B300 kümesi üzerinde sürekli tam yük stabilite testi tamamladı.
Bu bir haftalık, kesintisiz simülasyon, kurumsal eğitim işlerinin günler veya haftalar boyunca kesintisiz çalıştığı üretim senaryolarını taklit etti. Test, kümenin hesaplama, ağ, depolama ve zamanlama sistemlerini kapsayarak ağır yük altında istikrarlı çalışmayı doğruladı.
Ayrıca, sürekli tam yük operasyonunu desteklemek için yüksek yoğunluklu güç dağıtımı ve amaca yönelik hava soğutma altyapısı kurdu. Bu sistemler, stabil çalışma koşullarını ve optimal GPU performansını sürdürmeye yardımcı olur.
Ek olarak, Şirket çok aşamalı bir kalite güvence çerçevesi oluşturdu; kapsamı:
- Donanım yanma testi
- Tek düğüm kabul testi
- Küme-seviyesinde uzun süreli stabilite testi
Bu süreç, üretim dağıtımı öncesinde donanım veya yapılandırma tutarsızlıklarını tespit etmeye ve küme genelinde tutarlı performans ve yapılandırma sağlamaya yardımcı olur.
AI laboratuvarları ve işletmeler için bu yetenekler, daha öngörülebilir iş yükü performansı, daha hızlı veri yükleme ve checkpoint işlemleri, kesinti riskinin azalması ve karmaşık eğitim iş yüklerini ölçeklendirirken daha büyük güven anlamına gelir.
Üretime hazır AI altyapısını ilerletmek
Bu başarı, PaleBlueDot AI’nin yüksek performanslı AI altyapısına yaptığı sürekli yatırımda bir başka dönüm noktasını temsil ediyor. Şirket, hesaplama, ağ, depolama, zamanlama, izleme ve operasyon yeteneklerini optimize etmeye devam edecek ve giderek daha talepkar AI iş yükleri için güvenilir, üretime hazır altyapı sağlayacak.
Exemplar Cloud başarısı, PaleBlueDot AI’nin NVIDIA ile uzun süredir süren iş birliğine dayanıyor. Şirket, dünya çapındaki kurumsal müşteriler için eğitim ve çıkarım iş yüklerine bir sonraki nesil NVIDIA mimarilerini getirmek için yakın çalışmaya devam edecek.
Daha fazla bilgi için palebluedot.ai adresini ziyaret edin.
The post PaleBlueDot AI gains NVIDIA Exemplar Cloud status appeared first on Engineering.com.