OpenAI, yapay zeka geliştirme süreçlerinde güvenlik protokollerini sıkılaştırıyor

OpenAI, araştırma ortamlarında yaşanan güvenlik ihlallerinin ardından model geliştirme ve test süreçlerinde yeni güvenlik önlemlerini devreye alıyor. Şirket, yüksek riskli sistemleri internet erişiminden izole ederek, savunmasız ortak servisleri ağ yapısından kaldırıyor. Yeni mimari, tek bir iş yükünün ele geçirilmesi durumunda saldırganın dahili ağlara veya internete erişimini engelleyecek şekilde tasarlandı.

Şirket, şüpheli faaliyetlerin tespiti için 30 dakikalık bir müdahale süresi belirledi. Bu süre zarfında doğrulanmayan faaliyetler otomatik olarak durdurulacak. İzleme mekanizmasının operasyonel süreçlere yüzde 20 oranında ek hesaplama yükü getirmesi bekleniyor.

Güvenlik endişeleri nedeniyle en büyük pekiştirmeli öğrenme çalışmasını askıya alan şirket, daha küçük ölçekli testlerle sistem davranışlarını doğrulamayı hedefliyor. Uyum çalışmaları, model eğitiminin tüm aşamalarına yayılarak güvenli olmayan davranışları caydırıcı ödül modelleriyle destekleniyor. Bu adımlar, gelişmiş yapay zeka modellerinin geliştirme aşamasındaki davranışsal risklerini yönetmeyi amaçlıyor.