Temel Çıkarımlar

• NVIDIA’nın Open Agent Safety Platform (OASP) AI ajanları için test aşamasından saha dağıtımına kadar uçtan uca yönetişim sağlar.
• OpenShell, CPU’larda (NVIDIA Vera, Arm, Intel) < %5 gecikme ile güvenli bir çalışma zamanı sınırı oluşturur.
• Sentry, NVIDIA BlueField-4 DPU’larda çalışan, gerçek zamanlı olarak kötü ajanları karantinaya alabilen veya durdurabilen bir out-of-band izleyicidir.
• Platform, programlanabilir, sıfır-güven politikası uygulaması ve doğrulanmış telemetri için DOCA’yı kullanır.
• Erken benimseyenler arasında Anthropic bulunmakta; daha fazla işletmenin uyumluluk ve güvenlik için OASP’yi entegre etmesi bekleniyor.

NVIDIA AI Ajan Güvenliği İçin Açık Bir Platform Başlattı

NVIDIA, NVIDIA Open Agent Safety Platform (OASP) adlı açık-kaynak yazılım paketi ve referans donanım tasarımını duyurdu; bu, işletmelerin tüm AI-ajan yığını—yazılım, hesaplama ve robotik—üzerinde güvenlik politikaları uygulamasını sağlıyor. Platform, AI ajanlarının görevleri yürütürken uygulama-katmanı kontrollerini aşmasıyla ilgili son olaylara yanıt olarak konumlandırıldı ve yapılandırılabilir, çalışma zamanı-seviyesinde korumaların gerekliliğini vurguluyor.

Ajan Yığını Genelinde Yönetişim

OASP, belirli operasyonel gereksinimleri karşılamak için karıştır-karıştır kullanılabilen üç temel bileşen etrafında inşa edilmiştir:

OpenShell – CPU-Seviyesinde Güvenlik Sınırı

OpenShell, model açık-kaynaklı ya da tescilli olsun, ajanların fonksiyonları nasıl çağırdığını yöneten bir çalışma zamanı sınırı oluşturur. Ajanın kendi harness’inin dışında çalıştığı için güvenlik ekipleri temel AI kodunu değiştirmeden kontrolleri uygulayabilir. Çalışma zamanı hafiftir; NVIDIA Vera CPU üzerindeki benchmark testleri %5’in altında performans etkisi gösterir ve bu, gecikmeye duyarlı robotik ve kenar dağıtımları için uygundur.

OpenShell’in açık-kaynak doğası, Arm (Neoverse N2, 2.5 GHz) ve Intel (Xeon Scalable, 3.1 GHz’ye kadar) platformlara da port edilmesini sağlar, böylece yalnızca NVIDIA veri merkezleriyle sınırlı kalmaz.

Sentry – DPU-Tabanlı İzleyici

Sentry, BlueField-4 Data Processing Unit (DPU) üzerinde çalışır; bu, güvenlik işlevlerini ana CPU’dan izole eden bir off-load işlemcidir. Out-of-band bir şekilde hareket ederek ajan davranışını gerçek zamanlı izleyebilir, doğrulanmış günlükler oluşturabilir ve ana hesaplama iş yükünü etkilemeden sıfır-güven politikalarını uygulayabilir.

Ana yetenekler şunlardır:

• Davranışsal anomali tespiti DOCA-tabanlı denetim boru hatları kullanılarak.
• Ajan bir yazılım sınırını ihlal etmeye çalıştığında karantina/ölüm eylemleri.
• Veri erişim koruması, API’ler, depolama ve ağ arayüzleri üzerinde ajan-bazlı politikaları uygular.

DOCA – Programlanabilir Sıfır-Güven Motoru

DOCA (Data Center Operating System for Accelerators), OpenShell ve Sentry’yi birleştiren programlanabilir yapıştırıcı görevi görür. Şunları sağlar:

• Politika-odaklı istek filtreleme (saniyede 10 M işlem’e kadar).
• Doğrulanmış telemetri, RSA-3072 ile imzalanmış, uyumluluk denetimlerini destekler.
• Kimlik doğrulama, Vera CPU ve BlueField-4 DPU’da gömülü donanım-kökli anahtarlar kullanılarak.

Erken İşbirlikleri ve Pazar Dinamiği

NVIDIA, Claude’un arkasındaki AI araştırma laboratuvarı Anthropic ile ajan pipeline’larına ek güvenlik kontrolleri entegre etmek için çalışıyor. Ortaklık, OASP’nin hem büyük ölçekli bulut sağlayıcıları hem de özel robotik firmalar için esnekliğini gösteriyor.

Diğer potansiyel müşteriler arasında:

• Algı ajanlarını kilitlemek isteyen otonom-araç üreticileri.
• Robot kol eylemlerini ISO 10218 gibi güvenlik standartlarına göre sertifikalandırması gereken endüstriyel IoT operatörleri.

Sonuç

NVIDIA Open Agent Safety Platform, düşük gecikmeli CPU sandbox’ı (OpenShell) ile DPU-tabanlı izleyici (Sentry) ve programlanabilir sıfır-güven çerçevesi (DOCA)’yı birleştiren kapsamlı, donanım-temelli bir AI-ajan güvenliği yaklaşımı sunar. NVIDIA’nın Vera CPU’ları, Arm ve Intel işlemcilerde çalışabilen açık-kaynak araçlar sağlayarak OASP, genişleyen otonom ajan ekosistemi için satıcı-bağımsız bir güvenlik ağı konumuna gelir. Düzenleyici, güvenlik veya kurumsal politika gereksinimlerini karşılaması gereken işletmeler, silikon seviyesinden AI ajanlarını kilitlemek için ölçeklenebilir ve performansı koruyan bir seçenek elde eder.