Qualcomm ve Amazon, AI altyapısı üzerinde iş birliğini genişletiyor

Key Takeaways

• Qualcomm ve Amazon, hiperskala veri merkezleri için özel AI-çözümleme silikonunu sevk etmek üzere çok-nesil bir ortaklığı derinleştiriyor.
• Ortak çaba, Qualcomm’un en yeni SerDes ve DSP teknolojisini kullanan 1,6 Tb/s'ye kadar optik-bağlantı modüllerini içeriyor.
• Qualcomm, çip-tasarım döngülerini %30 kadar kısaltmayı hedefleyerek EDA iş yüklerini AWS Bedrock üzerinde çalıştıracak.
• İş birliği, daha düşük güç tüketimi (≤ 5 W per TOPS), daha yüksek bant genişliği ve toplam sahip olma maliyetinde (TCO) azalma hedefliyor; AI iş yükleri %40'tan fazla yıllık artış gösteriyor.

Overview of the Expanded Partnership

Custom AI-Inference Silicon at Scale

Qualcomm Technologies, Inc. (QTI) ve Amazon Web Services (AWS), büyük ölçekli veri merkezlerinde AI çıkarımı için amaçlı tasarlanmış silikon geliştirmek üzere çok-nesil bir anlaşma imzaladı. Çipler 7 nm/5 nm işlem düğümleri üzerinde üretilecek ve ≥ 15 TOPS/W sağlayarak AWS’nin AI hizmetlerinin tamamını (ör. SageMaker, Bedrock) destekleyecek.

High-Performance Optical Connectivity (up to 1.6 Tb/s)

Üretken-AI modellerinin patlayan bant genişliği ihtiyacına cevap vermek için ortaklar, tek bir bağlantı üzerinden 1,6 terabit saniye taşıyabilen optik I/O entegrasyonu yapıyor. Qualcomm’un SerDes (serializer/deserializer) ve optik DSP blokları şunları mümkün kılacak:

Sonuç, bit başına 2-3× enerji tasarrufu ve yoğun AI rafları için kritik olan daha küçük bir ayak izi.

Leveraging AWS AI Services for Chip Design

Qualcomm, elektronik-tasarım-otomasyonu (EDA) iş yüklerini AWS Bedrock üzerinde çalıştıracak; Amazon’un temel model hizmeti. İlk dahili testler, tasarım yineleme süresinin 12 haftadan ~8 haftaya düşerek ≈ %30 hızlanma sağladığını gösteriyor; bu da özel ASIC'ler için daha hızlı pazara çıkış anlamına geliyor.

Technical Highlights

Bu sayılar, IDC 2024 tahminlerine göre hiperskala bulutlarda AI hesaplama talebinin yıllık %40 büyümesi ile uyumlu.

Industry Implications

• Data-Center Operators: Güç ve soğutma yüklerini azaltarak OPEX'i düşürürken AI verimliliğini korur veya artırır.
• Chip Designers: Bulut-yerel EDA araçlarına erişim, silikon süresini kısaltır ve daha niş, iş-yüküne özgü ASIC'lerin geliştirilmesini teşvik eder.
• AI Researchers: Daha hızlı çıkarım gecikmesi ve yüksek bant genişliği, ölçekli gerçek-zaman üretken-AI hizmetlerini mümkün kılar.

Bottom Line

Qualcomm’un Amazon ile ortaklığı, güç-verimli özel silikon ile ultra-yüksek-bant genişliğine sahip optik bağlantıları birleştirmeyi, aynı zamanda AWS’in AI-bulut ekosistemini kullanarak çip tasarımını hızlandırmayı stratejik olarak hedefliyor. Birleşik teklif, önemli enerji tasarrufu, daha yüksek verim ve daha hızlı tasarım döngüsü vaat ederek her iki şirketi de hiperskala ortamlarında AI iş yüklerinin durmaksızın artışına hazırlıyor.