OpenAI baş bilim insanı yapay zeka geliştirme süreçlerinde yavaşlama çağrısı yaptı

OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zeka modellerinin gelişim hızının güvenlik standartlarını geride bıraktığını belirterek, araştırma süreçlerinin yavaşlatılması gerektiğini savundu. Mevcut güvenlik protokollerinin, sistemlerin artan özerkliği ve karmaşıklığı karşısında yetersiz kaldığı ifade ediliyor.

Sistemlerin kendi düşünme süreçlerini analiz edip değiştirebilme yeteneği, mevcut izleme yöntemlerinin güvenilirliğini azaltıyor. Özellikle yapay zeka ajanlarının bilgisayar sistemlerine erişim ve bağımsız araştırma kapasitelerinin artması, kötüye kullanım risklerini kritik seviyeye taşıyor.

OpenAI Baş Bilim İnsanı

Şirket yönetimi, güvenlik açıklarını kapatmak için otomatik denetim mekanizmaları geliştiriyor. Ancak Pachocki, bu sorumluluğun sadece özel şirketlere bırakılmaması gerektiğini vurguluyor.

Uluslararası düzeyde ortak güvenlik standartlarının oluşturulması ve hükümetlerin koordinasyonunun artırılması, teknolojik risklerin yönetimi için zorunlu görülüyor. Bu yaklaşım, yapay zekanın kendi kendini geliştirme süreçlerinde insan kontrolünün korunmasını hedefliyor.