OpenAI'da Güvenlik Stratejisi Eleştirisi ve Kurumsal Risk Tartışması

OpenAI bünyesinde üç buçuk yıl güvenlik raporlama süreçlerini yöneten bir uzman, şirketin mevcut "deneme-yanılma" odaklı geliştirme modelinin yüksek riskli yapay zeka sistemleri için yetersiz olduğunu belirterek görevinden ayrıldı. Eleştiriler, şirketin ürün lansmanlarını hızlandırmak için kullandığı aşamalı dağıtım yönteminin, sistem yetenekleri arttıkça kontrol edilemez güvenlik açıklarına yol açabileceği yönünde yoğunlaşıyor.

Eski çalışan, yapay zeka laboratuvarlarının nükleer enerji veya havacılık gibi yüksek riskli sektörlerdeki katı güvenlik protokollerini benimsemesi gerektiğini savunuyor. Mevcut mühendislik kültürünün, tek bir hata payının dahi sistemik krize dönüşmesini engelleyecek yedekleme ve denetim mekanizmalarından yoksun olduğu ifade ediliyor.

Şirket yönetimi ise iddialara yanıt olarak, modellerin güvenli sınırları aşmasını engellemek adına eğitim süreçlerini durdurma veya erteleme yetkilerini kullandıklarını belirtti. Kurum, üçüncü taraf değerlendirmeleri ve gerçek zamanlı izleme sistemleri ile güvenlik altyapısını güçlendirmeye devam ettiğini savunuyor. Bu ayrılık, yapay zeka sektöründe hız, rekabet ve güvenlik dengesine dair kurumsal yönetişim tartışmalarını yeniden gündeme taşıyor.