Anthropic, Yapay Zeka Gelişiminde Küresel Yavaşlama Çağrısı Yaptı

Yapay Zeka Gelişiminde Küresel Yavaşlama Talebi

Önde gelen yapay zeka şirketlerinden Anthropic, ileri yapay zeka sistemlerinin geliştirilmesinde dünya çapında bir yavaşlama çağrısında bulundu. Şirket, yapay zeka modellerinin hızla ilerlemesi ve insan müdahalesi olmadan kendi kendini geliştirme potansiyeli konusundaki endişelerini dile getirdi. Bu durumun toplum için önemli riskler taşıyabileceği belirtildi.

Anthropic tarafından yayımlanan bir blog yazısında, şirketin gelişmiş modellerine ilişkin dahili veriler paylaşıldı. Yazıda, küresel yapay zeka ilerlemesinin yavaşlatılmasının dünya için faydalı olacağı savunuldu. Şirket, yapay zeka sistemlerinin 'özyinelemeli kendi kendini geliştirme' yoluna girebileceğine dikkat çekti.

Küresel Anlaşma ve Güvenlik Endişeleri

Marina Favaro ve Jack Clark tarafından kaleme alınan bu yazı, öncü yapay zeka gelişiminde geçici bir duraklama olasılığının değerlendirilmesini talep etti. Böyle bir adımın, toplumsal yapıların ve uyum araştırmalarının yapay zeka hızına yetişmesine olanak tanıyacağı ifade edildi. Gelişimi yavaşlatmak için doğrulama mekanizmalarını içeren küresel bir anlaşma önerildi.

Yazıda, özyinelemeli kendi kendini geliştirmenin henüz gerçekleşmediği ve kaçınılmaz olmadığı belirtildi. Ancak, birçok kurumun hazır olduğundan daha erken ortaya çıkabileceği vurgulandı. Bu eşiğin, önemli toplumsal değişim ve tehlike potansiyeli taşıyan bir nokta olduğu ifade edildi.

Sektördeki Konumu ve Tartışmalar

Anthropic, kısa süre önce tamamladığı bir finansman turuyla yaklaşık 1 trilyon dolar değerlemeye ulaştı. Şirket ayrıca halka arz (IPO) başvurusunda bulunarak, rekabetçi yapay zeka pazarında OpenAI ile birlikte öncü konumunu pekiştirdi. Yıllık gelirinin bu ay 50 milyar dolara ulaşması bekleniyor; bu rakam 2023 sonunda 9 milyar dolardı.

Yapay zeka güvenliği prensipleri üzerine kurulan Anthropic, eleştirilerle de karşılaştı. Risk sermayedarı David Sacks gibi eleştirmenler, şirketin politika çalışmalarının rakiplerin ilerlemesini yavaşlatmayı amaçladığını öne sürdü. Sacks, bunu 'düzenleyici ele geçirme gündemi' olarak nitelendirerek, açık kaynaklı yapay zeka modellerini etkileyebileceğini belirtti.

Diğerleri ise Anthropic'in uyarılarını bir pazarlama taktiği olarak değerlendiriyor. Şirketin güçlü 'Mythos' siber güvenlik modelinin sınırlı sürümünü piyasaya sürmesi, ürün yeteneklerini sergilerken potansiyel riskleri de vurguluyor.

Gelecek Etkileri ve Uzman Görüşleri

Anthropic liderleri, güvenlik taahhütlerini sürdürdüklerini ve risk tartışmalarını teşvik etmek için çalıştıklarını belirtiyor. Wharton School profesörü Ethan Mollick, Anthropic'in yazısının incelenmesini tavsiye etti. Mollick, yazıda hem pazarlama unsurları hem de yapay zekanın yakın geleceğine dair samimi inançların bulunduğunu kabul etti.

Yapay zeka endüstrisi, modellerin Yapay Genel Zeka (AGI) veya özyinelemeli kendi kendini geliştirme gibi dönüm noktalarına ne kadar yakın olduğu konusunda bölünmüş durumda. Meta'nın eski baş yapay zeka bilimcisi Yann LeCun, mevcut büyük dil modellerinin insan düzeyinde zekaya ulaşamayacağına inanıyor. LeCun, yapay zekayı güçlü bir araç olarak görüyor ve onu bir kedinin zekasına benzeterek varoluşsal risk endişelerine katılmıyor.

Buna karşılık, Anthropic CEO'su Dario Amodei, yapay zekanın potansiyel tehlikeleri hakkında sürekli uyarılarda bulunuyor. Amodei, yapay zekanın eşitsizliği kötüleştirebileceğini ve birçok beyaz yakalı giriş seviyesi işi ortadan kaldırabileceğini öne sürdü. Ayrıca, güçlü yapay zeka sistemlerinin yıkıcı, öngörülemeyen eğilimler geliştirmesi konusundaki endişelerini de dile getirdi.