Yapay zekada açık model tartışması büyüyor Anthropic'ten güvenlik çağrısı

Yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, açık kaynaklı yapay zeka modellerine ilişkin tartışmaların ardından yaptığı açıklamada, şirketin bu modellerin yasaklanmasını hiçbir zaman savunmadığını belirtti.

Amodei, Anthropic'in resmi internet sitesinde yayımladığı değerlendirmesinde, şirketin açık ağırlıklı modellerin kısıtlanması veya yasaklanması yönünde lobi yaptığı iddialarını reddetti.

Açıklama, Nvidia CEO'su Jensen Huang'ın öncülüğünde 24 Temmuz'da yayımlanan "Açık Ağırlıklar ve Amerikan Yapay Zeka Liderliği" başlıklı ortak mektubun ardından geldi. Huang, yapay zekanın tüm sektörleri dönüştüreceğini belirterek dünyanın hem öncü kapalı modellere hem de öncü açık modellere ihtiyaç duyduğunu ifade etmişti.

"Açık ağırlıklı modellerin yasaklanmasını hiç savunmadık"

Amodei, son dönemde özellikle Çin merkezli açık ağırlıklı modellere ilişkin yoğun tartışmalar yaşandığını belirtti.

ABD'li yetkililerin, Amerikan şirketlerinin Çin menşeli açık ağırlıklı modelleri kullanmasını yasaklamayı değerlendirdiğine yönelik haberlerin gündeme geldiğini aktaran Amodei, bazı çevrelerin Anthropic'i ticari çıkarlarını korumak amacıyla açık modellerin yasaklanmasını istemekle suçladığını söyledi.

Amodei, "Açıklığa kavuşturayım ki hiçbir şüphe kalmasın: Anthropic, açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadı" ifadelerini kullandı.

Tehlikeli kabiliyetler barındırmayan açık ağırlıklı modellerin kamu yararı taşıdığını belirten Amodei, bu modellerin şirketler, geliştiriciler ve araştırmacılar için değer sağladığını kaydetti.

"Korumacı yasaklar ulusal güvenlik kaygılarını çözmez"

Amodei, korumacı yasakların en ciddi ulusal güvenlik endişelerini gidermeye yeterli olmayacağını savundu.

En büyük kaygısının, Çin Komünist Partisi başta olmak üzere otoriter yönetimlerin ABD'den daha güçlü yapay zeka modelleri geliştirerek askeri üstünlük sağlaması veya toplumları üzerinde baskı kurması olduğunu belirten Amodei, bu riskin ABD yönetimi içinde de paylaşıldığını ifade etti.

Açık ağırlıklı modellerin veya ABD şirketlerinin bu modelleri kullanmasının tek başına durumu değiştirmeyeceğini belirten Amodei, asıl riskin gizlice geliştirilen ve askeri ya da gözetleme amaçlarıyla kullanılan modeller olduğunu dile getirdi.

Amodei ayrıca güçlü yapay zeka modellerinin siber saldırılar, biyolojik saldırılar veya güvenlik sorunları oluşturacak şekilde kötüye kullanılabileceğine dikkat çekti.

Anthropic'ten üç maddelik güvenlik önerisi

Dario Amodei, ulusal güvenlik ve yapay zeka risklerine karşı üç temel tedbir önerdi.

Bunlardan ilki, güçlü çiplerin ve çip üretim ekipmanlarının otoriter rejimlere aktarılmasının önlenmesi oldu. Amodei, kaçakçılık ve yasal boşluklarla mücadele edilmesi gerektiğini belirtti.

İkinci öneri, model kopyalama ve küçültme yöntemi olarak bilinen distilasyon operasyonlarının sınırlandırılması oldu. Amodei, sanayi ölçeğindeki bu faaliyetlerin hedefli hukuki ve ticari müdahalelerle engellenmesi gerektiğini ifade etti.

Üçüncü öneri ise açık veya kapalı ayrımı yapılmadan yeterince gelişmiş tüm yapay zeka modellerinin piyasaya sürülmeden önce zorunlu güvenlik testlerinden geçirilmesi oldu.

"Açık modeller rekabeti artırıyor"

Amodei, açık mektuptaki bazı görüşlere katıldığını belirterek, açık ağırlıklı modellerin yapay zeka ekonomisine erişimi genişlettiğini ve rekabeti artırdığını söyledi.

Ancak açık modellerin güvenlik önlemlerini geliştirmeyi kolaylaştırdığı veya geniş erişimin savunmacılara saldırganlardan daha fazla avantaj sağladığı görüşüne katılmadığını ifade etti.

Biyolojik saldırı risklerine değinen Amodei, yeterli kabiliyete sahip yapay zeka modellerinin salgın düzeyindeki tehditlerin oluşturulmasını kolaylaştırabileceğini, savunma mekanizmalarının ise daha uzun sürede geliştirilebileceğini belirtti.

Anthropic CEO'su açıklamasını, şirketin açık ağırlıklı modellerin bir kategori olarak yasaklanmasını desteklemediğini, odak noktasının çip güvenliği, sanayi ölçeğinde distilasyonun önlenmesi ve güçlü modeller için zorunlu güvenlik testleri olması gerektiğini vurgulayarak tamamladı.