Open AI CEO'su Sam Altman: İnsanlar yapay zekadan korkuyor ve haklılar

Yapay zeka şirketleri, Sam Altman’ın San Francisco’daki açıklamalarıyla on yıl sonrasına uzanan risk tartışmasının merkezine yerleşti.

OpenAI CEO’su Sam Altman, Salesforce’un yıllık konferansında, kamuoyunun yapay zeka geliştiren şirketlere daha fazla güvenmesi gerektiğini söyledi. Altman aynı konuşmada, teknolojinin hızla güçlenmesi nedeniyle insanların korkularının meşru olduğunu kabul etti.

Altman güven çağrısı yaptı

Altman, “Dünya doğru şeyi yapacağımıza güvenmeli. Çünkü yapılması gereken doğru şey bu ve biz de taşıdığımız bu sorumluluğun büyüklüğünü hissediyoruz” dedi. Bu ifade, OpenAI’ın ChatGPT ile yapay zeka kullanımını geniş kitlelere taşımasının ardından şirketin güvenlik taahhütlerine dönük baskının arttığı bir dönemde geldi.

Altman, risklerin artık soyut bir tartışma olmadığını belirterek, “Bunun nasıl yanlış gidebileceğini hayal etmek artık eskisi kadar zor değil. Bence dünyanın bundan korkmakta haklı olduğunu düşünüyorum” ifadelerini kullandı. Buna rağmen OpenAI gibi şirketlerin kendi güvenlik sınırlarını belirleyebilecek kapasitede olduğunu savundu.

Altman’a göre sektör, “uyum ve güvenliği, yeteneklerin çok önünde” tutmak zorunda. Şirketlerin bunu başaramaması halinde ürün geliştirme hızını düşürmesi veya durması gerektiğini söyledi.

Washington denetim baskısını artırdı

Altman’ın mesajı, Washington’da daha sert kamu denetimi isteyen siyasi aktörlerin çıkışlarıyla aynı haftaya denk geldi. Senatör Bernie Sanders, yapay zeka kararlarının şirket sahiplerine bırakılmaması gerektiğini belirterek, “Bu ülkenin insanları yapay zeka konusunda kararları vermeli, bir avuç oligark değil” dedi.

Trump’ın ilk başkanlık döneminde Beyaz Saray’da stratejist olarak görev yapan Steve Bannon da teknoloji şirketlerinin öz denetim iddiasına şüpheyle yaklaştı. Bannon, “Bir oligarkın söylediği hiçbir şeye asla güvenemeyiz çünkü... samimi değiller ve yalan söylüyorlar” sözleriyle Silikon Vadisi yöneticilerini hedef aldı.

Tartışmanın fitilini, Anthropic’ten ayrılan bir araştırmacının geçen hafta yayımladığı paylaşım ateşledi. Araştırmacı, yapay zekanın denetimsiz kalması halinde on yılın sonuna kadar tüm insanları öldürebileceğini öne sürdü; bu iddiaya katılan bazı uzmanlar ise böyle bir sonucun hangi mekanizma üzerinden gerçekleşeceğini açıklamadı.

Anthropic CEO’su Dario Amodei, yapay zeka geliştirme hızının yavaşlatılması ve hükümetlerin sektöre kural koyması gerektiğini savundu. Bu çağrıya Altman’ın yanı sıra Google DeepMind kurucu ortağı Demis Hassabis ve Elon Musk da destek verdi.

Zuckerberg ve Huang itirazı

Meta CEO’su Mark Zuckerberg, X’te yaptığı paylaşımda her yapay zeka laboratuvarının güvenlik amaçlı araçlar geliştirmek için hem imkana hem teşvike sahip olduğunu yazdı. Zuckerberg, “Uyuma odaklanmayan her laboratuvar geride kalacaktır” dedi.

Zuckerberg ayrıca zarara yol açan modellerin şirketleri ciddi hukuki sorumluluklarla karşı karşıya bırakacağını belirtti. Bu nedenle laboratuvarların riskli ürünlerden kaçınmak için güçlü ekonomik ve yasal gerekçelere sahip olduğunu savundu.

Nvidia CEO’su Jensen Huang ise yeni yapay zeka sürümlerinin piyasaya çıkarılıp çıkarılmayacağına şirketlerin karar vermesi gerektiğini söyledi. Huang, “Yeni yasalara veya düzenlemelere ihtiyacımız yok” diyerek dış müdahale fikrine karşı çıktı.

Huang, inovasyon hızı ile ürün güvenliği arasında zorunlu bir tercih bulunduğu görüşünü de reddetti. Nvidia’nın yapay zeka işlemcilerine dönük yoğun talep nedeniyle sektör tartışmasının merkezinde yer alması, bu görüşü şirketler ve düzenleyiciler açısından daha hassas hale getiriyor.

Güven açığı şirketleri sıkıştırıyor

Sektör içinden bazı isimler, kıyamet senaryolarının yapay zekaya dönük ilgiyi artırmak için kullanılabileceğini savunuyor. Altman ise konferansta iş insanlarına yapay zeka araçlarını kullanmalarını, ayrıca şirketlerini yapay zeka destekli siber saldırılara karşı korumak için bu teknolojilerden yararlanmalarını söyledi.

Anthropic yöneticisi ve kurucu ortaklarından Jack Clark, yapay zekanın “tamamen düzenlenmemiş bir sektör” olarak bırakılmasını “muazzam risklerle zar atmak” diye niteledi. Logical Intelligence Operasyon Direktörü Patrick Hillman da teknoloji şirketlerine güvenin düşük olduğunu söyleyerek, “İnşa ettiğiniz şeyin tehlikeli olduğuna inanıyorsanız, yapmayı bırakmaya hazır olduğunuz şeyleri bize gösterin” dedi.

Öz denetim çizgisi korunursa OpenAI ve rakipleri ürün geliştirme hızını daha kolay sürdürebilir; ancak hukuki sorumluluk ve itibar riski şirket maliyetlerini artırabilir. Hükümet müdahalesi güçlenirse model yayın takvimleri yavaşlayabilir, uyum harcamaları artabilir ve çip, bulut ile yazılım şirketlerinin büyüme hızı yeni güvenlik testlerine bağlı hale gelebilir.

Üçüncü yol, şirketlerin ölçülebilir güvenlik eşikleri üzerinde uzlaşması ve bunları kamuya açık biçimde uygulaması olur. Böyle bir çerçeve, küresel ölçekte kurumsal yapay zeka yatırımlarını daha öngörülebilir kılabilir; açık soru, şirketlerin gerektiğinde hangi ürünleri gerçekten durduracağıdır.