Yapay zekalı Rus İHA’sı üç sivili öldürdü

Zaporijya İHA saldırısı, üç sivilin ölümü ve otonom hedef seçimi iddiasıyla savaşta yapay zeka denetimi tartışmasını büyüttü.

Ukraynalı askeri yetkililer, İHA uzmanları ve enkazı inceleyen adli ekipler, 6 Temmuz’daki saldırıda kullanılan Rus aracının deneysel bir yapay zeka sistemiyle yönlendirildiğini değerlendirdi. Bu değerlendirmeye göre insan operatörler aracı bir benzin istasyonu bölgesine gönderdi, ancak vurulacak kesin noktayı sistemin kendisi seçti.

Küçük ve model uçağa benzeyen İHA, hedef bölgeye yaklaşırken yakındaki bir binanın çevresinden geçemedi. Araç duvara çarptıktan sonra patladı ve saldırıda 3 sivil yaşamını yitirdi.

Zaporijya’da son karar iddiası

Kaynağın aktardığı Ukraynalı değerlendirmelere göre saldırının ayırt edici yanı, insan operatörün yalnızca genel hedef bölgesini belirlemesiydi. İHA’nın, eğitim verilerinde tanımlanan nesnelerden birini seçerek son saldırı kararını verdiği öne sürüldü.

Uzmanlar, sistemin benzin istasyonunda veya çevresinde bulunan propan tüplerini hedef olarak algılamış olabileceğini belirtti. Bu iddia, İHA’nın klasik uzaktan kumandalı bir araçtan çok görüntü tanıma ve makine öğrenimi kullanan bir sisteme yakın çalıştığı yönündeki değerlendirmeyi güçlendirdi.

Bu tür sistemlerde kamera görüntüsü, önceden yüklenen görsel örneklerle karşılaştırılıyor. Araç, eğitim sırasında öğrendiği nesne sınıflarını sahadaki görüntüler içinde arayarak rotasını ve saldırı noktasını belirleyebiliyor.

Enkazdaki Jetson Orin modülü

Saldırıdan ve benzer olaylardan kalan parçaları inceleyen ekipler, İHA içinde Nvidia tarafından üretilen Jetson Orin mini bilgisayar modülleri bulunduğunu bildirdi. Ukrayna hava savunma yetkilileri, anten bulunmaması ve bu modüllerin tespit edilmesinin otonom çalışma ihtimalini artırdığını söyledi.

Nvidia, incelenen parçaların Jetson Orin bilgisayarı olduğunu doğruladı. Şirketin bu ürünü Rusya’da doğrudan satmadığı, ancak birkaç yüz dolara temin edilebilen modüllerin farklı ülkelerdeki satıcılar üzerinden dolaşıma girebildiği belirtildi.

Ukraynalı yetkililere göre saldırıda kullanılan modül şifrelenmemişti. Bu durum, bilgisayara yüklenen arazi görüntülerinin ve sistemdeki kodların incelenmesine imkan verdi.

İncelenen kodlarda, İHA’nın hangi nesneleri tanıyacak ve saldıracak biçimde eğitildiğine ilişkin kayıtlar bulunduğu aktarıldı. Bu nesneler arasında propan tüpleri gibi belirli hedef sınıflarının yer aldığı bildirildi.

Otonom silah tartışması büyüyor

Rusya ve Ukrayna, savaş boyunca İHA sistemlerinde yapay zekadan farklı düzeylerde yararlandı. Daha önceki uygulamalarda yapay zeka çoğunlukla saldırının son aşamasında kullanılıyor, hedef seçimi ise uzaktaki insan operatör tarafından yapılıyordu.

Zaporijya’daki olayla ilgili iddia doğruysa, bu modelde kritik eşik değişmiş görünüyor. İnsan operatör aracın gideceği alanı tarif ederken, ölümcül etki yaratacak son seçim algoritmaya bırakılmış oluyor.

Uluslararası insan hakları kuruluşları, insan müdahalesi olmadan hedef seçip saldırabilen silah sistemlerine karşı çıkıyor. Eleştirilerin merkezinde, bu sistemlerin siviller ile savaşanları ayırt etme kapasitesi ve uluslararası insancıl hukukla uyumlu karar verip veremeyeceği bulunuyor.

Buna karşı bazı uzmanlar, görüntüye dayalı karar veren sistemlerin belirli koşullarda daha kontrollü olabileceğini savunuyor. Bu görüşe göre hedefini görerek seçen bir araç, hedef bölgeye kör biçimde gönderilen klasik topçu mühimmatı veya güdümsüz bombalara kıyasla farklı bir risk profili oluşturabilir.

Üç düzeyde risk hesabı

Bu teknoloji yayılırsa küresel ölçekte ana etki, düşük maliyetli işlemcilerle geliştirilen otonom saldırı kapasitesinin daha fazla ordunun erişimine açılması olur. Böyle bir yayılma, silah ihracatı kontrolleri ve çift kullanımlı teknoloji denetimleri üzerinde daha yoğun baskı yaratabilir.

Nvidia açısından merkezi konu, ticari amaçla satılan küçük bilgisayarların savaş alanında nasıl kullanıldığıdır. Şirket doğrudan satış yapmadığını belirtse de ürünlerin üçüncü ülkelerdeki dağıtım ağları üzerinden çatışma bölgelerine ulaşması, teknoloji tedarik zincirlerinde izlenebilirlik sorununu öne çıkarıyor.

İHA sektörü için açık soru, insan onayının hangi aşamada zorunlu tutulacağıdır. Eğer son hedef seçimi algoritmalara daha fazla bırakılırsa, üreticiler, ordular ve düzenleyiciler için teknik güvenlik kadar hukuki sorumluluk da daha sert bir sınav haline gelecek.