OpenAI, kritik siber güvenlik yeteneklerine sahip yeni modelini duyurdu

OpenAI, geliştirdiği Astra modelinin şirketin siber güvenlik eşiği standartlarına ulaşan ilk yapay zeka olduğunu açıkladı. Model, insan müdahalesi olmadan bilinmeyen güvenlik açıklarını tespit etme ve bu açıkları kullanacak yöntemler geliştirme kapasitesine sahip bulunuyor.

Test süreçlerinde ExploitBench üzerinde yüzde 100 başarı sağlayan Astra, sıfırıncı gün (zero-day) açıklarını tespit ederek sistemlerde yetkisiz komut çalıştırma yeteneği sergiledi. Bu yetenekler, modelin kötü amaçlı siber saldırılarda kullanılma riskini artırdığı için yayın süreci güvenlik önlemleri gerekçesiyle ertelendi.

Modelin en gelişmiş siber güvenlik özelliklerine erişim, başlangıç aşamasında yalnızca belirli test kullanıcıları ve savunma odaklı programlar ile sınırlandırılacak. Şirket, kötüye kullanımı engellemek amacıyla izleme mekanizmalarını ve güvenlik kısıtlamalarını artırdığını belirtiyor.

Söz konusu güvenlik önlemleri ve modelin performansı hakkında henüz bağımsız bir üçüncü taraf doğrulaması bulunmuyor. Kapsamlı sistem kartı ve güvenlik değerlendirmelerinin, modelin resmi kullanıma sunulmasıyla birlikte paylaşılması planlanıyor.