BM’den askeri yapay zeka için çağrı

Geiss, askeri yapay zeka kullanımında insan denetiminin daraldığını belirterek ölümcül otonom silahlar için bağlayıcı anlaşma istedi.

New York’taki Birleşmiş Milletler (BM) merkezinde gazetecilere konuşan Geiss, tartışmayı ölümcül güç kullanımında kararın kime ait olacağı üzerinden açtı. İnsanların hedef seçilmesi ve öldürülmesinde makinelere yetki tanınıp tanınmayacağını, uluslararası toplumun yanıtlaması gereken temel mesele olarak sundu.

Geiss’in açıklamaları, yalnızca gelecekte geliştirilebilecek silahlarla sınırlı değildi; bugün yürütülen askeri faaliyetlerdeki uygulamaları da kapsıyordu. Kendi değerlendirmesine göre, yapay zekanın kullanım alanları genişlerken karar süreçlerinde insan değerlendirmesine ayrılan zaman azalıyor ve bu değişim nükleer kararları da ilgilendiriyor.

Hedef seçiminden nükleer kararlara uzanan kullanım

Geiss, mevcut uygulamalar arasında istihbarat verilerinin değerlendirilmesini, hedef seçimini ve insansız hava araçlarını sıraladı. Siber saldırılarla bilgi operasyonlarını da bu kapsama dahil ederek, yapay zeka ve otonom teknolojilerin askeri faaliyetlerin farklı aşamalarında kullanıldığını belirtti.

Bu kullanım alanlarını anlatırken Geiss’in öne çıkardığı sorun, kararların giderek makinelerin çalışma temposunda alınmasıydı. Ona göre süreçlerin hızlanması, insanların değerlendirme yapabileceği alanı daraltıyor; nükleer alandaki kararlar da bu baskının dışında kalmıyor. Geiss böylece insan muhakemesine ilişkin uyarısını yalnızca sahadaki hedef seçimine değil, daha geniş güvenlik kararlarına da yöneltti.

Geiss, sistemlerin nasıl işlediğinin yeterince açık olmamasını da ayrı bir güvenlik sorunu olarak gösterdi. Bu kapalılığın hatalara ve yanlış hesaplara ilişkin tehlikeyi büyüttüğünü savundu. Açıklamasında, kararların hızlanması ile sistemlerin işleyişinin anlaşılabilir olması, insan denetimine ilişkin kaygının iki ayrı boyutu olarak yer aldı.

Az sayıdaki aktörün küresel etkisi

Geiss’e göre, askeri yapay zekanın güvenlik üzerindeki sonuçlarını sınırlı sayıdaki devlet ve şirket belirliyor. Buna karşılık, bu aktörlerin geliştirdiği teknolojilerin etkileri kendi sınırlarıyla veya faaliyet alanlarıyla sınırlı kalmıyor; diğer ülkelerin güvenliğine de uzanıyor. Geiss, bu nedenle tartışmayı teknolojiyi geliştirenlerin ötesinde bir uluslararası mesele olarak ele aldı.

Teknolojinin daha geniş çevrelere yayılması konusunda da uyarıda bulunan Geiss, devlet dışındaki aktörlerin daha gelişmiş operasyonlar yürütme imkanına kavuşabileceğini söyledi. Bu değerlendirmeyi gerçekleşmiş belirli bir saldırının tespiti olarak değil, yaygınlaşmayla birlikte ortaya çıkabilecek bir tehlike olarak dile getirdi. Uyarısının odağında yalnızca devletlerin sahip olduğu askeri kapasite bulunmuyordu.

Geiss ayrıca BM Genel Sekreteri Antonio Guterres’in konuya ilişkin önceki uyarılarını hatırlattı. Kendi değerlendirmesinde, yapay zekanın askeri kullanımında kabul edilemez bir sınırın aşılmasına yaklaşıldığını savundu. Böylece mevcut uygulamalara ilişkin kaygılarını, BM’nin daha sıkı uluslararası kurallar oluşturulması yönündeki çağrısıyla ilişkilendirdi.

Bağlayıcı anlaşmanın önünde jeopolitik engeller

Geiss, otonom silahlara yönelik kuralların geliştirilmesini zorlaştıran unsurlar arasında devletler arasındaki rekabeti ve gerilimleri gösterdi. Bununla birlikte, yapay zekanın sonuçlarına ilişkin kaygıların farklı siyasi kamplarda karşılık bulduğunu söyledi. Büyük güçlerin de bu endişeler doğrultusunda harekete geçtiğini belirterek, rekabet ile ortak güvenlik kaygılarının aynı anda var olduğuna işaret etti.

Açıklamasının sonunda Geiss, askeri amaçlarla kullanılan yapay zekaya daha sıkı kurallar getirilmesi talebini yineledi. Ölümcül otonom silahlar bakımından ise hukuki yükümlülük doğuracak uluslararası bir anlaşma çağrısını aktardı. Bu iki talep, konuşmasında hem geniş askeri kullanım alanlarını hem de ölümcül güç kullanma yetkisini kapsayan düzenleme ihtiyacını oluşturdu.

Geiss, uluslararası desteğin genişlediğini söylese de sağlanan metinde müzakere takvimi, taslak hükümler veya ülkelerin ayrı ayrı tutumları yer almıyor. Bu nedenle desteğin hangi somut yükümlülüklere dönüşebileceği belirsizliğini koruyor. Geiss’in çağrısının merkezinde, hızlanan askeri karar süreçlerinde insanın rolünü koruyacak kuralların oluşturulması bulunuyor.