Automation

Qualcomm ve Amazon, AI altyapısı üzerindeki iş birliğini genişletiyor

Qualcomm ve Amazon, AI altyapısı üzerindeki iş birliğini genişletiyor

Key Takeaways

  • Qualcomm ve Amazon, veri merkezi ölçeğinde özelleştirilmiş AI-tahmin silikonunu sunmak için çok-nesilli bir ortaklığı derinleştiriyor.
  • Ortak çalışma, Qualcomm’un SerDes ve optik-DSP IP’sini kullanan 1.6 Tbps bağlantı başına yüksek hızlı optik bağlantıyı içeriyor.
  • Amazon’un AWS AI hizmetleri (ör. Amazon Bedrock) ana EDA platformu olarak hizmet verecek ve çip-tasarım döngülerini %30 kadar kısaltmayı hedefliyor.
  • Enerji-verimli Qualcomm silikonları ≤30 W tahmin motoru başına hedefliyor, tipik GPU-tabanlı çözümlerden çok daha düşük.
  • İş birliği, bir sonraki büyük ölçekli model dalgası için daha maliyet-etkin, güvenli ve enerji-bilinçli bir AI altyapısı vaat ediyor.

Overview of the Expanded Partnership

Qualcomm Technologies, Inc. , AI inference iş yüklerine odaklanan, Amazon Web Services (AWS) ile çok-nesilli bir iş birliğini genişlettiğini duyurdu. İki şirket, bugünün devasa transformer modelleri için gerekli performansı sağlarken güç tüketimini ve toplam sahip olma maliyetini (TCO) kontrol altında tutacak özelleştirilmiş silikonu birlikte mühendislik yapacak.

Why the Alliance Matters

  • Exponential AI demand: Küresel AI model eğitimi ve tahmin iş yükleri %70 YoY artış gösterdi, bu da işlem, depolama, ağ ve bellek bant genişliğine baskı yapıyor.
  • Energy constraints: Veri merkezi güç bütçeleri daralıyor; Qualcomm’un düşük-güç işlem konusundaki uzmanlığı bu baskıya doğrudan yanıt veriyor.
  • Secure, price-performant cloud: AWS zaten sağlam bir AI yığını (SageMaker, Bedrock, Trainium) sunuyor. Qualcomm’un silikonunun entegrasyonu, AWS’in güvenlik ve fiyatlandırma modelleriyle uyumlu bir donanım katmanı ekliyor.

Optical Connectivity: 1.6 Tbps and Beyond

Ortaklığın temel taşlarından biri, tek bir fiber üzerinden 1.6 terabit saniyeye kadar çıkabilen yüksek performanslı optik bağlantıdır. Qualcomm, en yeni SerDes (serializer/deserializer) ve optik DSP bloklarını sağlayarak şunları mümkün kılıyor:

Feature Qualcomm-Led Solution Typical GPU-Centric Solution
Link Speed 1.6 Tbps per lane 400 Gbps (e.g., NVIDIA’s NVLink)
Power per Lane ~2 W 5–7 W
Latency <150 ns 200–250 ns
Scalability Up to 8 lanes per node (12.8 Tbps aggregate) Up to 4 lanes per node (1.6 Tbps aggregate)
Integration Silicon-level co-design with AI ASIC Add-on adapters or external transceivers

Optik alt sistem, model boyutları 1 trilyon parametreyi aşarken veri merkezi bağlayıcılarının darboğaz haline gelmesini önleyecek şekilde tasarlandı.

Leveraging AWS AI Services for Chip Design

Qualcomm, electronic design automation (EDA) iş yüklerini AWS’nin AI-optimize altyapısında, özellikle Amazon Bedrock üzerinde çalıştırmayı planlıyor. Simülasyon, doğrulama ve üretken tasarımı buluta taşıyarak Qualcomm şu faydaları bekliyor:

  • Silikon-tasarım dönüş süresini 12 haftadan ~8 haftaya indirmek.
  • Bedrock’un talep üzerine ölçeklenmesi sayesinde EDA için hesaplama maliyetlerini ≈%30 azaltmak.
  • Belirli model aileleri (ör. LLM’ler, difüzyon modelleri) için ayarlanabilen özelleştirilmiş AI çekirdeklerinde hızlı yineleme sağlamak.

Custom Silicon vs Conventional GPU Solutions

Metric Qualcomm Custom AI ASIC (Projected) NVIDIA A100 GPU (Baseline)
Peak FP16 Performance 26 TOPS per chip 312 TOPS
Power Consumption 25–30 W 250–400 W
Inference Throughput per Watt 0.87 TOPS/W 0.78 TOPS/W
Die Area 150 mm² 826 mm²
Cost per Inference Unit ~$120 ~$3000

GPU’lar hâlâ ham FLOPS’da lider olsa da Qualcomm’un ASIC’i daha yüksek verimlilik ve daha küçük ayak izi sunarak güç ve soğutmanın sınırlayıcı olduğu yoğun tahmin rafları için ideal bir seçenek haline geliyor.

Strategic Benefits for AWS Customers

  • Lower TCO: Müşteriler büyük ölçekli tahmini enerji maliyetinin bir kısmıyla çalıştırabilir.
  • Predictable Performance: Özelleştirilmiş silikon, paylaşılan GPU havuzlarında görülen değişkenliği ortadan kaldırır.
  • Future-Proofing: 1.6 Tbps optik bağlantı, AWS’yi ağ yenilemesi yapmadan çok-petabayt model dağıtımlarını desteklemeye hazır hale getirir.

Bottom Line

Qualcomm’un Amazon ile ortaklığı, enerji-verimli, yüksek bant genişliğine sahip AI altyapısı yönünde belirleyici bir adım temsil ediyor. Qualcomm’un düşük-güç özelleştirilmiş silikonunu ve son-uç optik bağlantısını AWS’nin olgun AI hizmetleriyle birleştirerek, bu iş birliği patlayan işlem talebi ve sıkılaşan güç bütçeleri gibi ikiz zorlukları ele alıyor. Veri merkezi operatörleri daha hızlı tasarım döngüleri, azalan işletme maliyetleri ve bir sonraki nesil AI modelleri için hazır, ölçeklenebilir bir bağlayıcı kumaşı bekleyebilir.

İlgili Makaleler