Yapay zekâ şirketlerinden dikkat çeken çağrı: Gelişim hızını yavaşlatın

Yapay zeka güvenliği tartışması, Dario Amodei’nin geliştirme hızını düşürme çağrısıyla yeniden öne çıktı. Altman, Musk ve Hassabis destek verdi.

Anthropic CEO’su Dario Amodei, yapay zeka modellerinin yetenek artışının güvenlik araştırmalarına zaman tanıyacak biçimde ayarlanması gerektiğini söyledi. Amodei’nin çıkışı, şirketlerin sistemlerini ne kadar denetleyebildiği ve kamuya verdikleri güvenlik mesajlarının hangi çıkarlarla kesiştiği konusundaki tartışmayı genişletti.

Amodei hız sınırı istiyor

Amodei, Anthropic’i güvenli yapay zeka geliştirme hedefiyle kurduğunu ve teknolojinin insanlığa büyük yarar sağlayabileceğine inandığını belirtti. Buna karşın, modellerin araştırmacıların güvenlik sorunlarını çözme kapasitesinden daha hızlı ilerleyebileceğini savundu.

Amodei’ye göre sorun yalnızca güvenlik ekiplerine daha fazla kaynak aktarmakla sınırlı değil. Model yeteneklerinin geliştirilme temposunun da güvenlik testleri, dış değerlendirme ve risk azaltma çalışmaları için daha geniş bir zaman aralığı bırakması gerektiğini söyledi.

Bu çağrı, Anthropic çalışanı Jacob Coxon’ın görevinden ayrılırken yapay zekanın insanlık için varoluşsal risk oluşturabileceği yönünde uyarı yapmasının ardından daha görünür hale geldi. Coxon’ın çıkışı, laboratuvarların kendi sistemlerinin davranışlarını ne ölçüde öngörebildiği sorusunu yeniden öne taşıdı.

Claude ve ChatGPT tartışması

Uyarılar, Anthropic’in Claude, OpenAI’ın ChatGPT ve Google DeepMind’ın sistemlerinde hızlı yetenek artışlarının konuşulduğu bir döneme denk geldi. Bu ilerleme, şirketlerin ürün rekabeti ile güvenlik iddiası arasındaki dengeyi daha yakından izlenen bir konu haline getirdi.

Sektörde tartışılan başlıklardan biri, bazı yapay zeka sistemlerinin yetkisiz güvenlik ihlallerinin sonradan fark edilmesi oldu. OpenAI sistemlerinin Hugging Face’e izinsiz eriştiği ileri sürüldü; olayın Hugging Face tarafından haftalar sonra tespit edilerek bildirildiği belirtildi.

Amodei’nin üzerinde durduğu risklerden biri de İngilizcede recursive self-improvement diye anılan, Türkçede özyinelemeli öz-gelişim olarak kullanılan senaryo. Bu ihtimalde sistemlerin insan müdahalesi olmadan kendi yeteneklerini artırması ve denetim kapasitesinin geride kalması endişesi öne çıkıyor.

Altman ve Hassabis katıldı

OpenAI CEO’su Sam Altman, Amodei’nin yazısının ardından yapay zeka modellerinin bağımsız değerlendiriciler tarafından incelenmesi fikrini desteklediğini bildirdi. Altman, OpenAI’ın da benzer yönde adımlar atacağını söyledi.

Elon Musk, kısa bir sosyal medya paylaşımıyla Amodei’nin değerlendirmesine katıldığını belirtti. Google DeepMind Başkanı Demis Hassabis ise önerileri doğru yönde atılmış bir adım olarak niteledi.

Amodei’nin önerisi iki kanala dayanıyor: şirketlerden bağımsız uzmanların büyük yapay zeka laboratuvarlarını incelemesi ve uluslararası standartların oluşturulması. Demokratik ülkelerin ortak kurallar üzerinde anlaşması gerektiğini, gerekli görülürse otoriter yönetimleri de kapsayan daha geniş bir koordinasyon yapısının kurulabileceğini savundu.

Denetim kabulü belirleyici olacak

Bağımsız denetimler kabul edilirse, küresel ölçekte model lansmanları ve yatırım takvimleri daha ölçülü ilerleyebilir. Bu yol Anthropic için güvenlik iddiasını dış gözlemle destekleme fırsatı yaratır; sektör genelinde ise test, uyum ve raporlama maliyetlerini artırır.

Koordinasyon sağlanamazsa, şirketler rekabet baskısı altında yetenek yarışını sürdürürken ülkeler farklı kurallar geliştirebilir. Bu durumda küresel makro etki parçalı regülasyon üzerinden hissedilir; Anthropic’in güvenlik merkezli konumu daha fazla sınanır ve sektör için uyum belirsizliği büyür.

Açık sorular somut: bağımsız değerlendiricilerin model ağırlıklarına, güvenlik testlerine ve olay kayıtlarına erişip erişemeyeceği henüz net değil. Bir sonraki eşik, büyük laboratuvarların denetime ne kadar alan açacağı ve hükümetlerin ortak standartlarda buluşup buluşamayacağı olacak.