Astera Labs, modüler Orion AI rack mimarisini tanıttı

Key Takeaways

• Orion Ast Astera Labs’in yeni modüler rack-scale referans tasarımıdır; veri merkezi operatörlerinin CPU ve GPU’ları PCIe tak-tak kartlarıyla karıştırıp eşleştirmesine olanak tanır.
• Mimari pod başına 160’a kadar hızlandırıcı destekler ve intra-pod trafiği için gecikmeyi 1 µs altında tutan standart-tabanlı bir fabric kullanır.
• Rack şasisini hızlandırıcı seçiminden ayırarak Orion entegrasyon çabasını ≈%40 azaltır ve üretime geçiş süresini Q1 2027’ye kısaltır.
• Orion, birleşik telemetri, tanı ve AI-iş yükü orkestrasyonu için COSMOS Rack Manager ve COSMOS Fabric Manager ile birlikte gelir.
• Tasarım, değiştirilebilir hesaplama tepsileriyle 2026 OCP Global Summit (12-15 Ekim, San Jose)’de gösterilecektir.

Overview

Astera Labs, Orion adını verdiği rack-scale referans platformu ile açık-standart bağlantıyı üretim-düzeyi güvenilirlikle birleştirdi. Temel satış noktası modüler yaklaşımıdır: müşteriler PCIe 5.0 uyumlu herhangi bir CPU ve GPU seçebilir, böylece proje yaşam döngüsünün erken aşamalarında tek bir hızlandırıcı ailesine bağlanma zorunluluğu ortadan kalkar.

The Market Pressure on Neoclouds and Enterprises

Büyük ölçekli çıkarım iş yükleri, gecikmeyi öngörülebilir tutarken devasa hızlandırıcı yoğunluğu talep eder. Geleneksel rack tasarımları, pazar istikrara kavuşmadan önce operatörleri belirli bir GPU veya ASIC’e bağlamaya zorlar; bu da ön-ön capital risk ve eskime riskini artırır. OEM ve ODM’ler ayrıca yeni bir hızlandırıcı çıktığında tekrarlayan mühendislik döngüleriyle karşılaşır, talep artışlarında dağıtımları yavaşlatır.

Orion’s Architectural Solution

Orion, rack şasisini hesaplama motorlarından ayıran bir referans mimari ile bu sorunları çözer:

Core Technical Elements

• Scale-up Fabric: Standart-tabanlı, yüksek-verimli bir interconnect; PCIe 5.0 hatlarını hesaplama, fabric ve bellek tepsileri arasında birleştirir. Fabric, > 200 TB/s çift yönlü bant genişliğini sürdürebilir, hızlandırıcılar arasında sorunsuz veri hareketi sağlar.
• Composable PCIe Connectivity: Her hesaplama tepsisi 8 PCIe 5.0 x16 slot içerir; GPU, TPU veya özel çıkarım ASIC’lerinin şasi yeniden tasarlamadan hızlıca değiştirilmesini mümkün kılar.
• Expanded Memory Fabric: Orion’un bellek tepsisi, tüm hızlandırıcıların erişebildiği DDR5/LPDDR5 ortak havuzu sunar; büyük dil modeli çıkarımı için token-başına-saniye verimliliğini artırır.
• Management Stack: Entegre COSMOS Rack Manager ve COSMOS Fabric Manager, filo-geneli telemetri, sağlık izleme ve AI-bilinçli iş yükü zamanlamasını birleşik bir API üzerinden sunar.

Deployment Timeline & Demonstration

• Q1 2027: Üretim-düzeyi Orion rack’leri, Astera Labs’in ODM ve OEM ekosistemi üzerinden temin edilebilir.
• 12-15 Oct 2026: Astera Labs, Open Compute Project (OCP) Global Summit’de San Jose’de tam donanımlı bir Orion rack’i sergileyecek; farklı CPU-GPU kombinasyonlarıyla doldurulmuş değiştirilebilir hesaplama tepsileri canlı benchmarklarla gösterilecek.

Why Orion Matters for AI-Heavy Workloads

1. Risk Mitigation: Operatörler, piyasa fiyatları istikrara kavuşana kadar hızlandırıcı satın alma kararını erteleyebilir, erken CAPEX’den kaçınır.
2. Speed of Scale: Ön-doğrulanmış tepsiler entegrasyon döngülerini kısaltır; veri merkezleri, eski yapılandırmalara kıyasla ayda %10-20 daha fazla çıkarım kapasitesi ekleyebilir.
3. Token Efficiency: Optimize edilmiş PCIe yolları ve ortak bellek, veri-kopya yükünü azaltarak benchmark çıkarım modellerinde (ör. BERT-large, GPT-2) ≈ %15 daha yüksek token-başına-saniye sağlar.

Bottom Line

Astera Labs’in Orion platformu, şasi tasarımını CPU ve hızlandırıcı seçeneğinden ayırarak rack-scale AI altyapısını yeniden tanımlıyor. Açık-standart, yüksek-yoğunluklu fabric, sub-mikrosaniye gecikme ve devasa bellek havuzu sunarken entegrasyon çabasını neredeyse yarıya düşürüyor. İlk sevkiyatların 2027 başında olması ve 2026 OCP Summit’ında canlı demo yapılmasıyla Orion, işletmeler ve neocloud sağlayıcıları için tek bir donanım satıcısına kilitlenmeden çıkarım iş yüklerini ölçeklendirmek isteyenler için geleceğe yönelik, maliyet-etkin bir temel oluşturuyor.