- Nvidia, otonom yapay zeka ajanlarının belirlenen sınırların dışına çıkmasını engellemeyi hedefleyen Open Agent Safety Platform'u duyurdu.
- Platform, ajanların erişimini sınırlayan OpenShell yazılımı ile ayrı bir işlemci üzerinde çalışan Sentry izleme sisteminden oluşuyor.
- Anthropic, Microsoft, Salesforce ve SAP dahil 100'den fazla kuruluş projede yer alırken, Nvidia aynı gün 150 milyar dolarlık rekor hisse geri alımı da açıkladı.
Nvidia, otonom yapay zeka ajanlarını kontrol altında tutmayı hedefleyen yeni güvenlik platformunu duyurdu. “Open Agent Safety Platform” adını taşıyan sistem açık kaynak olarak sunuluyor.
Platform, son dönemde büyük teknoloji şirketlerinde yaşanan güvenlik olaylarının ardından geliyor. Nvidia’nın değerlendirmesine göre bu olayların ortak paydası aynı, ajanlar kendilerine verilen görevi tamamlamak için uygulama katmanındaki güvenlik kontrollerini aşıyor. Şirketin çözümü ise bu kontrolleri yapay zekanın tamamen dışına taşımak.
Platform iki ana bileşenden oluşuyor
Sistemin ilk ayağı OpenShell adlı açık kaynak yazılım. Bu bileşen, ajanların çalışma sırasında hangi kaynaklara erişebileceğini belirleyen güvenli bir çalışma sınırı oluşturuyor. Tüm işlemleri kayıt altına alıyor ve politikaları uyguluyor. Açık kaynak olduğu için Arm ve Intel gibi üçüncü taraf platformlarla da çalışacak şekilde genişletilebiliyor.
İkinci ayak ise Sentry adlı bağımsız izleme sistemi. Sentry, ajanın çalıştığı işlemciden ayrı olarak Nvidia’nın BlueField-4 veri işleme birimleri üzerinde koşuyor. Şirketin açıklamasına göre bu yapı sayesinde sistem ajanlara ve saldırganlara görünmeyen izole bir alandan çalışıyor ve sınırının dışına çıkmaya çalışan bir ajanı milisaniyeler içinde karantinaya alabiliyor.
Kontroller yapay zekanın dışına taşınıyor
Nvidia’nın yaklaşımındaki temel fikir, güvenlik kurallarının yapay zeka modelinin kendi içinde değil dışında uygulanması. Bu sayede ajan, kuralları ikna yoluyla aşamıyor, devre dışı bırakamıyor ya da sınırları atlatmak için başka bir ajan oluşturamıyor.
Kurucu ve CEO Jensen Huang, sistemi ajanlar için bir tarayıcıya benzetiyor. Huang’a göre yapay zekanın toplum için taşıdığı olağanüstü potansiyel ancak güvenlik sorunu çözülürse hayata geçebilir ve güvenlik tam yığın mühendislik gerektiriyor. Nvidia, CNBC’ye yaptığı açıklamada bu yazılımın yaz aylarında Hugging Face’te yaşanan ihlali engelleyebileceğini savunuyor.
100’den fazla şirket platformda yer alıyor
Duyuruya sektörden geniş bir katılım eşlik ediyor. Anthropic, Cisco, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI ve ServiceNow platformla çalışan 100’ü aşkın kuruluş arasında bulunuyor.
Entegrasyonlar da çeşitleniyor. Salesforce, OpenShell’i Slack ile birleştirerek ekiplerin ajan etkinliğini doğrudan Slack üzerinden izlemesini ve ek izin taleplerini onaylayıp reddetmesini sağlıyor. SAP ise bileşeni Joule Studio çalışma ortamına gömüyor. Figure ve Skild AI gibi robotik şirketleri de OpenShell’i fiziksel dünyada işlem yapan otonom sistemlere yerleştiriyor. Citi ve JPMorganChase finans tarafında, Hitachi Energy ile NextEra Energy gibi şirketler ise kritik altyapı tarafında projeye katılıyor.
Aynı gün rekor hisse geri alımı duyuruldu
Nvidia, güvenlik platformuyla aynı gün finansal tarafta da dikkat çeken bir karar açıkladı. Şirket yönetim kurulu, hisse geri alım programına 150 milyar dolarlık ek yetki verdi. Bu tutarla birlikte programın toplam büyüklüğü 85 milyar dolardan 235 milyar dolara çıktı.
Şirketin belirttiğine göre bu artış, tarihin en büyük hisse geri alım yetkilendirmesi olma özelliği taşıyor ve Apple’ın 2024 yılındaki 110 milyar dolarlık rekorunu geride bırakıyor. Konuyla ilgili yaptığı açıklamasında Huang, nakit üretiminin hem teknolojiye yatırım yapma hem de hissedarlara kaynak aktarma kapasitesi sağladığını ifade etti. Duyurunun ardından Nvidia hissesi yüzde 2 civarında değer kazandı. Platformun yazılım bileşenleri ise Nvidia geliştirici sayfası ve GitHub üzerinden erişime açıldı.
