Bernie Sanders’tan yapay zeka şirketlerine çağrı: Gelişimi durdurun

Yapay zeka yarışında güvenlik tartışması, Senatör Bernie Sanders’ın OpenAI, Anthropic ve Meta’ya geliştirmeyi durdurma çağrısıyla büyüdü.

ABD’li bağımsız Senatör Sanders, OpenAI Üst Yöneticisi Sam Altman, Anthropic Üst Yöneticisi Dario Amodei ve Meta Üst Yöneticisi Mark Zuckerberg’e gönderdiği mektupta şirketlerin gelişmiş model çalışmalarına ara vermesini istedi. Sanders’a göre son bulgular, şirketlerin daha önce güvenlik için tanımladığı risk sınırlarının artık test edildiğini gösteriyor.

Mektup, yapay zeka şirketlerinin yeni modelleri daha yüksek kapasite, daha fazla otonomi ve daha geniş kullanım alanıyla piyasaya hazırladığı bir dönemde geldi. Tartışmanın merkezinde, bu sistemlerin yalnızca üretkenlik aracı olup olmadığı değil, biyogüvenlik ve siber güvenlik risklerini de büyütüp büyütmediği sorusu var.

Sanders üç CEO’ya yüklendi

Sanders, şirketlerin modellerinin “kritik risk eşiği” seviyesine geldiğini savundu ve yöneticilere daha önce verdikleri güvenlik taahhütlerini hatırlattı. Vermont Senatörü, gönüllü bir yavaşlama olmazsa ABD Senatosu’nun düzenleyici adım arayabileceğini bildirdi.

Bu çağrı, bağlayıcı bir karar değil; şimdilik siyasi baskı ve kamuoyu denetimi oluşturmayı amaçlıyor. Yine de hedef alınan üç şirket, sektörde model kapasitesi, sermaye çekme gücü ve kamu politikası üzerindeki etkisi nedeniyle yapay zeka tartışmasının merkezinde yer alıyor.

OpenAI, Anthropic ve Meta’nın geçmişte belirli risk seviyelerinde model geliştirmeyi yavaşlatma veya durdurma sözü verdiği belirtiliyor. Sanders, virüs tasarımı ve izinsiz sistem erişimi iddialarını bu sözlerin devreye girmesi gereken aşama olarak yorumladı.

Virüs ve sunucu iddiaları

Sanders’ın mektubunda öne çıkan ilk risk, gelişmiş modellerin virüs tasarımı çalışmalarında kullanılabileceği iddiası. Senatör, bu tür araçların kötü niyetli aktörlere geçmesi halinde biyolojik silah üretimini kolaylaştırabileceğini ve ağır can kaybı yaratabilecek senaryolara kapı açabileceğini savundu.

İkinci başlık, modellerin bilgisayar sistemlerine izinsiz eriştiği bildirilen olaylar. Sanders, Meta, OpenAI ve Anthropic modelleriyle bağlantılı bazı vakaların başka kuruluşların sunucularına müdahale edildiği yönünde raporlandığını söyledi.

Yapay zeka araştırmacısı Yoshua Bengio’nun bu vakaları bir “uyandırma çağrısı” olarak nitelendirdiği de mektupta anıldı. Buna karşılık bazı araştırmacılar, modellerin kontrolden çıktığı anlatısının abartılı kurulabileceğini ve şirketlerin ürün kabiliyetlerini güçlü göstermek isteyen iletişim stratejileriyle iç içe geçebileceğini söylüyor.

Bu ayrım, düzenleme tartışması için önemli. Eğer riskler şirketlerin iddia ettiği kadar hızlı büyüyorsa, kamu otoritelerinin denetim kapasitesi geride kalabilir; eğer anlatı pazarlama etkisi taşıyorsa, politika yapıcılar teknik ayrıntısı zayıf bir alarm üzerinden karar verebilir.

1.300 imza ve Kongre sınırı

Sanders’ın çıkışı, sektörde çalışan bilim insanları, mühendisler ve geliştiriciler arasında yayılan ortak çağrıyla aynı döneme denk geldi. 1.300’den fazla teknoloji çalışanının imzaladığı açık mektupta, geliştirme hızının riskleri belirleme ve önlem alma sürecini zorlaştırdığı belirtildi.

İmzacılar, ABD hükümetinden gelişmiş modellerin geliştirilme temposunu uluslararası düzeyde yavaşlatacak bir mekanizma için öncülük etmesini istedi. Bu talebin mantığı, düzenleyicilere güvenlik standardı, test rejimi ve yaptırım çerçevesi hazırlamak için zaman kazandırmak.

Ancak şirketler ve ülkeler arasındaki rekabet, yavaşlama çağrısının en zayıf halkası. Bir şirket ara verirken rakiplerinin devam etmesi, hem pazar payı hem de yetenek transferi açısından maliyet yaratabilir.

Sanders ile Alexandria Ocasio-Cortez, mart ayında yeni yapay zeka veri merkezlerine geçici yasak getiren bir tasarı da sunmuştu. Mevcut Kongre dengelerinde böyle bir yasağın geçmesi zor görülüyor; bu nedenle son mektup daha çok şirketleri kendi güvenlik sözleriyle karşı karşıya bırakıyor.

Eğer OpenAI, Anthropic ve Meta geliştirme temposunu düşürürse, küresel ölçekte bulut altyapısı, çip talebi ve veri merkezi yatırımlarının takvimi yeniden ayarlanabilir. Bu durumda şirketler kısa vadede rekabet baskısı yaşar; sektör ise ortak test ve denetim standartları için daha fazla alan bulur.

Eğer şirketler yarışa aynı hızla devam ederse, Kongre’de daha sert lisanslama, veri merkezi izni veya model güvenliği şartları gündeme gelebilir. Böyle bir yol, ABD teknoloji şirketleri için uyum maliyetini artırırken, küresel yapay zeka rekabetinde koordinasyon sorununu daha görünür hale getirir.