Nvidia otonom yapay zeka ajanları için güvenlik katmanı geliştirdi

Nvidia, otonom yapay zeka ajanlarının yetkisiz erişimlerini ve hatalı davranışlarını engellemek amacıyla iki yeni açık kaynaklı güvenlik yazılımı geliştirdi. Open Agent Güvenlik Platformu adı verilen bu sistem, yapay zeka modellerinin gerçek zamanlı faaliyetlerini denetleyerek belirlenen güvenlik kurallarını ihlal etmeleri durumunda müdahale ediyor.

Sistemin ilk bileşeni olan OpenShell, kullanıcıların yapay zeka ajanlarının erişim sınırlarını tanımlamasına ve bu kuralları Vera merkezi işlem birimleri üzerinde uygulamasına olanak tanıyor. İkinci bileşen Nvidia Sentry ise BlueField veri işlem birimleri üzerinde çalışarak, ajanların faaliyetlerini sürekli izleyen ve şüpheli hareketleri izole eden bir gözlem katmanı oluşturuyor.

Bu hamle, otonom yazılımların kötü niyetli kullanımına karşı sektörde artan güvenlik endişelerine yönelik mühendislik odaklı bir yanıt niteliği taşıyor. Şirket yönetimi, yapay zeka güvenliğini yasal düzenlemelerden ziyade teknik bir kontrol sorunu olarak tanımlıyor. Söz konusu yazılımların açık kaynak olarak sunulması, kurumsal risk yönetimi ve otonom sistemlerin güvenli entegrasyonu açısından kritik bir altyapı oluşturuyor.