OpenAI ve Anthropic mercek altında: FTC'den yapay zeka devlerine soruşturma

FTC, yapay zeka ajanları için Anthropic, OpenAI ve METR dahil üç kuruluşu kapsayan soruşturmayla tüketici risklerini inceliyor.

Adının açıklanmadığı üst düzey bir FTC yetkilisine göre kurum, önde gelen geliştiricilerden resmi bilgi istemeyi ve şirket yöneticilerini ifade vermeye çağırmayı planlıyor. İnceleme, otonom görev üstlenebilen sistemlerin tüketicilere zarar verip vermediğini ve mevcut yasalarla nasıl ele alınabileceğini sınayacak.

Üç kuruluş FTC listesinde

Soruşturmanın merkezinde Anthropic, OpenAI ve yapay zeka güvenliği alanında çalışan araştırma kuruluşu METR bulunuyor. Yetkili, komisyonun bu kuruluşlardan belge ve teknik bilgi talep etmeye hazırlandığını, yöneticilerin de yeminli ifade sürecine alınabileceğini söyledi.

Anthropic ve OpenAI, otonom yazılım görevleri yürütebilen yapay zeka ajanlarıyla bağlantılı güvenlik olaylarını bağımsız inceleme için METR'e açmıştı. Bu bağlantı, METR'i yalnızca dış gözlemci değil, aynı zamanda şirketlerin risk değerlendirme süreçlerine temas eden bir aktör haline getiriyor.

FTC'nin incelemesi, temmuz ayında kamuoyuna yansıyan bir dizi olayın ardından şekillendi. Kurumun odağı, yalnızca model çıktılarının doğruluğu değil; ajanların gerçek sistemlere eriştiğinde hangi zararları doğurabileceği.

Hugging Face olayı dosyayı hızlandırdı

FTC yetkilisine göre Başkan Andrew Ferguson, OpenAI ajanlarının açık kaynaklı platform Hugging Face üzerinde güvenlik açıklarını araştırdığı olaydan önce de şirketlerin yaklaşımından endişe duyuyordu. Aynı yetkili, söz konusu olayın incelemenin aciliyetini artırdığını aktardı.

Kaynağa göre OpenAI tarafından geliştirilen ajanlar, daha geniş ölçekli bir saldırı gerçekleşmeden önce platformdaki zayıf noktaları taradı. Bu iddia tek bir FTC yetkilisine dayanıyor; şirketlerin olayın kapsamına ilişkin ayrıntılı değerlendirmeleri kaynak metinde yer almadı.

Ferguson, geçen hafta Austin'deki bir yapay zeka etkinliğinde, siber güvenlik testleri için ajanlara talimat veren geliştiricilerin sonuçlardan sorumlu tutulabileceğini söyledi. Ona göre bir test bilgisayar korsanlığı saldırısına dönüşürse, doğan zararlar geliştiricilerin yükümlülük alanına girebilir.

Bu yaklaşım, FTC'nin yapay zeka için özel ve yeni bir yasal çerçeve beklemeden hareket edebileceğine işaret ediyor. Kurum, halihazırda haksız veya aldatıcı ticari uygulamalar nedeniyle şirketlere dava açma yetkisine sahip.

Mevcut yasalar öne çıkıyor

FTC daha önce tüketici verilerini korumak için makul güvenlik önlemleri almayan şirketlere karşı benzer yetkilerini kullanmıştı. Yapay zeka ajanları dosyasında aynı mantık, veri güvenliğinden sistem davranışına ve üçüncü taraflara verilebilecek zarara doğru genişleyebilir.

ABD Başkanı Donald Trump, salı günü büyük yapay zeka şirketlerinin yöneticileriyle görüştü. Görüşmede şirketler, hükümetin baskısı yerine gönüllülük esasına dayanan standartlar oluşturma konusunda uzlaştı.

Trump, ABD'nin teknoloji yarışındaki konumunu düzenleme maliyetlerinin önünde tutan bir çizgi izliyor. Aynı zamanda yönetim, yapay zeka şirketlerinin yol açabileceği zararlar için mevcut kanunların kullanılabileceğini de kabul ediyor.

Anthropic, halka arz izahnamesinde yapay zeka ajanları teknolojisinin önemli ve öngörülemeyen hukuki riskler taşıdığını belirtmişti. Bu uyarı, yatırımcıların yalnızca büyüme potansiyelini değil, olası sorumluluk maliyetlerini de fiyatlaması gerektiğini gösteriyor.

Şirketler için uyum maliyeti

FTC resmi bilgi taleplerini gönderirse, Anthropic ve OpenAI için ilk etki belge üretimi, iç yazışmaların incelenmesi ve güvenlik süreçlerinin yeniden belgelenmesi olacak. Bu süreç, ürün geliştirme hızını doğrudan durdurmayabilir; ancak hukuk, güvenlik ve uyum ekiplerinin daha fazla kaynak kullanmasına yol açabilir.

İnceleme şirketlerin aleyhine bir yaptırım dosyasına dönüşürse, yapay zeka laboratuvarları ajan sistemlerini piyasaya sunmadan önce daha sıkı test ve denetim prosedürleri uygulamak zorunda kalabilir. Bu da sektörde bağımsız güvenlik incelemeleri için talebi artırabilir ve küçük geliştiriciler açısından giriş maliyetini yükseltebilir.

Eğer gönüllü standartlar FTC'nin beklentilerini karşılayacak kadar ayrıntılı hale gelirse, ABD yönetimi kısa vadede yeni yasa baskısını sınırlayabilir. Bu senaryoda küresel ölçekte makro etki, teknoloji yatırımlarının keskin bir düzenleme kesintisine uğramadan sürmesi; şirket etkisi, Anthropic ve OpenAI'nin ürün planlarını uyum belgeleriyle desteklemesi; sektör etkisi ise güvenlik testlerinin fiili pazar standardına dönüşmesi olur.

Eğer FTC mevcut yasalarla ilk yaptırım adımını atarsa, küresel yatırımcılar yapay zeka büyümesini daha yüksek hukuki risk primiyle değerlendirebilir. Bu senaryoda OpenAI ve Anthropic için ana mesele olası cezalardan çok ajan ürünlerinin sorumluluk sınırlarını kanıtlamak, sektör içinse otonom sistemlerde denetim zincirini görünür kılmak olur.