Anthropic yöneticisinden çarpıcı yapay zeka uyarısı: Yapay zekanın insanlığı yok etme ihtimali yüzde 10’dan fazla

Anthropic, 11 bin kişilik anket ve ekonomi senaryolarıyla yapay zeka riskini işgücü ve büyüme gündemine taşıdı.

Şirketin tartışması, yeni modellerin eğitimi üzerinde çalışan araştırmacı Jacob Coxon'ın istifasıyla hızlandı. Coxon, kendini geliştirebilen sistemlere yönelik sektör yarışına katılmak istemediğini ve bu sistemlerin insanlık için varoluşsal risk yaratabileceğini söyledi.

Coxon istifası güvenlik tartışmasını büyüttü

Anthropic'in hizalama bilimi lideri Evan Hubinger, Coxon'ın X'te yayılan açıklamasına aynı platformda yanıt verdi. Hubinger, “yapay zekanın tüm insanları öldürebileceğine gerçekten ve samimiyetle inanıyoruz!” ifadesini kullandı ve kişisel risk tahminini önümüzdeki 10 yıl için yüzde on'un üzerinde verdi.

Hubinger ayrıca Anthropic'in riski azaltmak için çalıştığını, ancak süperzeka hizalama sorununu çözmeye dönük hazır bir plan bulunmadığını belirtti. Bu açıklama, şirketin güvenlik odaklı konumunu korurken araştırma temposu ve kontrol kapasitesi arasındaki gerilimi öne çıkardı.

ABD ekonomisi için iki rota

Coxon'ın çıkışından sonra Anthropic, yapay zekanın ABD ekonomisini gelecek yıllarda nasıl etkileyebileceğine ilişkin bir rapor ve etkileşimli araç yayımladı. Araç, kullanıcıların üretkenlik artışı, benimseme hızı, iş kaybı ve yeni iş yaratımı gibi varsayımları değiştirerek farklı sonuçları test etmesine izin veriyor.

Şirketin düşük etkili senaryosunda yapay zeka, ekonominin mevcut çizgisine yakın bir katkı yapıyor ve çalışanlar üzerindeki baskı sınırlı kalıyor. Daha sert senaryoda ise gayri safi yurt içi hasıla artarken işsizlik yükseliyor; çalışanların yaklaşık yüzde 14'ü yapay zekaya bağlı olarak işinden oluyor ve bu grubun yarısından azı yeni iş buluyor.

Raporda sonuçların, teknolojinin ne kadar esnek olduğuna ve şirketlerce ne kadar hızlı benimsendiğine bağlı değiştiği belirtiliyor. Anthropic, hangi senaryonun daha olası olduğuna dair kesin bir tahmin vermiyor; yapay zeka uzmanlarının daha hızlı yayılım beklediğini, ekonomistlerin ise daha temkinli kaldığını aktarıyor.

Kurucu ortak Jack Clark, bir röportajda teknolojinin hızlı gelişmeyi sürdüreceğini, fakat ekonomiye girişinin birçok kişinin varsaydığından daha zor olabileceğini söyledi. Clark'ın çerçevesi, model kapasitesindeki artış ile kurumsal uygulama arasındaki mesafenin istihdam sonuçlarını belirleyebileceğini gösteriyor.

11 bin kişilik anket ayrışıyor

Anthropic'in yaklaşık 11 bin kişiyle yaptığı ankette, kamuoyu beklentileri büyüme iyimserliği ile istihdam kaygısı arasında bölündü. Katılımcıların genel eğilimi, yapay zekanın verimlilik ve ekonomik büyümeyi artıracağı, ancak risk altındaki mesleklerde çalışanlar için uyum maliyetleri doğuracağı yönünde aktarıldı.

Şirket, olağan işleyişe yakın bir patika ile büyümenin normal hızın yaklaşık iki katına çıktığı patika arasında işsizliğin tarihsel aralıkta kalabileceğini belirtiyor. Aynı parametrelerde ücretlerin sektöre göre yatay seyretmesi ya da artması bekleniyor.

En uç büyüme senaryosunda ise Anthropic, ekonomi tarihindeki büyüme hızlarının aşılması halinde ücretler ve iş imkanları üzerinde olumsuz etkiler oluşabileceğini değerlendiriyor. Mekanizma, üretim artışının emeğe talebi aynı hızda taşımaması ve yerinden edilen çalışanların yeni görevler bulmakta gecikmesi üzerine kurulu.

Eğer yapay zeka şirketlerin verimliliğini artırırken iş tasarımlarını yavaş değiştirirse, küresel ölçekte üretkenlik beklentileri güçlenebilir; Anthropic için güvenlik iddiasını ekonomi araçlarıyla destekleme alanı açılır. Sektör açısından bu patika, düzenleyicilerin odağını doğrudan yasaklardan ölçüm, denetim ve işgücü uyum programlarına kaydırabilir.

Eğer benimseme hızı iş yaratımını aşarsa, makro düzeyde büyüme ile işsizlik aynı anda yükselebilir; Anthropic üzerindeki baskı, hizalama planı ve risk iletişiminin somutlaştırılması yönünde artar. Sektör için ana açık nokta, güçlü modellerin ekonomik faydasının çalışan geçişlerini finanse edip etmeyeceğidir.