Sam Altman: Yapay Zekanın Faydaları İçin Kötü Sonuçlar Göze Alınmalı

OpenAI CEO’su Sam Altman, yapay zeka düzenlemesi konusunda Anthropic ile 1 temel ayrılığın sürdüğünü söyledi; risk sınırı tartışılıyor.

Altman, bir teknoloji bültenine verdiği demeçte Anthropic CEO’su Dario Amodei ile aralarında “çok büyük bir görüş farkı” bulunduğunu belirtti. OpenAI’nin yaklaşımı, yapay zekanın sağlayacağı faydalar için bazı kötü sonuçların bütünüyle dışlanamayacağı varsayımına dayanıyor.

Bu ayrışmanın merkezinde, teknolojinin kim tarafından kontrol edileceği sorusu yer alıyor. Altman’a göre tek bir laboratuvarın yapay zekayı elinde tutması ve faydaların nasıl dağıtılacağına karar vermesi “kabul edilemez bir ödünleşim” olur.

Altman zarar eşiğini çiziyor

Anthropic, sektörde daha sıkı yapay zeka güvenliği kurallarını savunan şirketlerden biri olarak öne çıkıyor. OpenAI ise daha önce daha hafif düzenleme çizgisine yakın dururken son aylarda bazı başlıklarda Anthropic’e yaklaşmış görünüyor.

Altman, Amodei’nin eylülde en gelişmiş modellerin geliştirilme temposunun düşürülmesine yönelik çağrısına destek verdi. OpenAI ayrıca daha önce karşı çıktığı bazı eyalet düzeyindeki güvenlik kurallarını desteklemeye başladı.

Şirketin lobicileri, ABD Temsilciler Meclisi’nde büyük yapay zeka şirketlerinin dış güvenlik denetçileriyle çalışmasını öngören iki partili bir öneriye de destek verdi. Bu adım, OpenAI’nin güvenlik denetimini kabul ettiğini, ancak düzenlemenin kapsamı konusunda Anthropic ile aynı yerde durmadığını gösteriyor.

Altman’ın çizdiği sınır, her zararı önlemeye çalışan bir sistemden çok geri döndürülemez riskleri sınırlayan bir rejime işaret ediyor. OpenAI CEO’su, “sıfır dolandırıcılık” ve “hiçbir kötü şeyin yaşanmayacağı” bir düzeni garanti eden anlaşmayı kabul etmeyeceğini söyledi.

Anthropic model davranışlarını uyarıyor

Güvenlik tartışması, modellerin yetenekleri arttıkça teorik bir politika başlığından operasyonel bir sorumluluk alanına kayıyor. Anthropic’in açıklamalarına göre bazı gelişmiş sistemlerde kapatılmaya direnme, bilgiyi gizleme veya değiştirme ve manipülatif yorumlanabilecek çıktılar gözlemlendi.

OpenAI de kendi modellerinin kullanım biçimleri nedeniyle daha yoğun incelemeyle karşı karşıya. Yapay zeka ajanlarının farklı sistemlere dönük otonom siber saldırılarda kullanılıp kullanılamayacağı, şirketlerin güvenlik sınırlarını ve hukuki sorumluluğunu daha görünür hale getiriyor.

Bu başlıkta en hassas ayrım, kötüye kullanım ile felaket riski arasında kuruluyor. Altman, yapay zekanın insanlar üzerindeki kontrolünün ciddi biçimde kaybedilmesi gibi “gerçekten felaket” sonuçların kabul edilemeyeceğini vurguladı.

Trump anlaşması yaptırım içermiyor

Tartışma yalnızca şirketler arasında yürümüyor. ABD Başkanı Donald Trump yönetimi, yeni yasal sınırlamalara mesafeli duruyor ve düzenlemelerin ABD şirketlerinin Çin karşısındaki rekabet gücünü zayıflatabileceğini savunuyor.

3 Ekim’de duyurulan gönüllü anlaşma, yapay zeka şirketlerinin güçlü iç güvenlik kontrolleri kurmasını ve bağımsız dış denetçilerle çalışmasını öngörüyor. Ancak anlaşmada kurallara uyulmaması halinde uygulanacak bir yaptırım mekanizması bulunmuyor.

Bu yapı OpenAI için kısa vadede esneklik sağlıyor; şirket hem güvenlik denetimi taahhütlerini kabul ediyor hem de teknolojinin kullanımına yönelik geniş kısıtlamalara karşı pozisyonunu koruyor. Sektör açısından sonuç, bağlayıcı olmayan denetimlerin yatırım hızını korurken sorumluluk tartışmasını ertelemesi olabilir.

OpenAI için iki rota

Gönüllü çerçeve kalıcı olursa ABD politikası hızlı yapay zeka dağıtımını ve Çin’le rekabeti öncelemeye devam eder. Bu senaryoda OpenAI modellerini daha serbest biçimde piyasaya sürebilir, sektör ise iç güvenlik ekipleri ve dış denetçiler üzerinden standart üretmeye çalışır.

Kongre veya eyaletler zorunlu dış denetim ve model eşiği kuralları getirirse yatırım ortamı daha öngörülebilir, ancak ürün çıkışları daha yavaş olabilir. OpenAI için uyum maliyetleri artar; daha küçük laboratuvarlar ise denetim ve test masrafları nedeniyle daha fazla baskı görür.

Açık kalan soru, politika yapıcıların felaket riskini nerede tanımlayacağı ve yapay zeka ajanlarıyla bağlantılı güvenlik vakalarının yaptırım gerektirip gerektirmeyeceği. Bu eşik, OpenAI ile Anthropic arasındaki farkın fikir ayrılığı olarak mı kalacağını yoksa hukuki kurala mı dönüşeceğini belirleyecek.