Anthropic-Pentagon çekişmesi: Yapay zeka hedef mi seçiyor?

Anthropic ile Pentagon arasındaki dava, yapay zekanın askeri kullanımı ve etik sınırlarını gündeme taşıdı; şirket kısıtları savunuyor.

Ne oldu: Dava ve iddiaların özü

Anthropic üç gün önce Savunma Bakanlığı'nın kendisini devlet projelerinden dışlamasına karşı dava açtı ve bunun ifade özgürlüğünü ihlal ettiğini iddia etti.

İhtilafın merkezinde Claude adlı yapay zeka modelinin askeri uygulamalara nasıl açılacağı, kitlesel iç gözetim ve tamamen otonom silah sistemlerinin kullanımı var.

Şirketin ve Pentagon'un pozisyonları

Anthropic, modellerinin kitlesel gözetim ve insan hayatını doğrudan etkileyebilecek otonom öldürücü silahlarda kullanılmasını engellemek istiyor; bu tutumu sektörde etik sınır oluşturduğunu söylüyor.

Pentagon ise teknolojinin "yasal kullanımına" izin verilmesini talep ediyor; taraflar arasındaki belirsizlik, şirketin bazı askeri sürümlerine uyguladığı kısıtlamaları bile tartışmalı hale getirdi.

Davada Anthropic’in Claude’un askeri versiyonunda bazı kısıtları kaldırdığı, "Claude Gov" adlı versiyonun gizli belgelerin işlenmesi ve tehdit analizinde kullanılabildiği ifade ediliyor.

Tarihsel bağlam ve sektör dönüşümü

Bu gerilim, Silikon Vadisi ile ordu arasındaki ilişki değişimini ortaya koyuyor; 2018'de Google çalışanlarının Project Maven protestosu ve şirketin sonraki politika değişiklikleri bu dönüşümün örneklerini sunuyor.

2018'de 3 binden fazla Google çalışanı Pentagon ile işbirliğine karşı çıkmış, şirket kısa süre sonra Project Maven sözleşmesini yenilememişti. Ancak sonraki yıllarda Google ve diğer büyük teknoloji firmalarının tavrı değişti.

2024'te Google, İsrail ilişkileri etrafındaki protestoları takiben 50'den fazla çalışanı işten çıkardı ve GeminI adlı sisteminin askeri ajan platformu sağlayacağını duyurdu. Benzer politika değişimleri OpenAI ve diğer firmalarda da görüldü.

Geçen yıl Anthropic, OpenAI, Google ve xAI gibi şirketlerin Pentagon ile 200 milyon dolara kadar ulaşabilecek sözleşmeler imzaladığı bildirildi; bu da ticari aktörlerin savunma alanındaki rolünü artırdı.

Öte yandan, Anduril ve Palantir gibi firmalar savunma işbirliğini iş modellerinin merkezine koydu; Palantir'in Project Maven benzeri görevleri devralması ve Maven'in bugün Anthropic teknolojisini kullanan gizli sistemlerle ilişkilendirilmesi önem taşıyor.

Ek olarak haberlere göre Claude, İran'a yönelik operasyonlarda hedef analizi gibi askeri süreçlerde kullanılmış olabilir; Anthropic'in üst yönetimi şirketin operasyonel askeri kararlar üzerinde doğrudan rol almadığını belirtiyor.

Uzmanlar, Margaret Mitchell gibi araştırmacıları işaret ederek bu tartışmanın artık basit iyi-kötü ayrımına indirgenemeyeceğini, etik, ticari ve ulusal güvenlik kaygılarının iç içe geçtiğini vurguluyor.

Sonuç olarak, dava hem teknoloji şirketlerinin kendi güvenlik politikalarını yeniden değerlendirmesine hem de hükümetlerin düzenleyici ve sözleşme stratejilerini gözden geçirmesine yol açacak.

İzlenecek başlıca konular arasında davanın hukuki sonucu, şirket içi kısıtlamaların sektör genelinde emsal oluşturup oluşturmayacağı ve Kongre veya düzenleyici kurumların müdahale edip etmeyeceği bulunuyor.