Otonom Yapay Zeka Destekli İHA Saldırısı Sivil Kayıplara Yol Açtı

Ukrayna'nın Zaporijya kentinde düzenlenen bir İHA saldırısında üç sivil hayatını kaybetti. Yapılan incelemeler, saldırıda kullanılan hava aracının insan müdahalesi olmaksızın, deneysel bir yapay zeka sistemi tarafından otonom şekilde yönlendirildiğini ortaya koydu. İHA, operatör tarafından belirlenen genel bölge içerisinde, hedefi kendi görsel analiz yeteneğiyle seçti.

Enkaz üzerinde yapılan teknik analizlerde, ticari olarak temin edilebilen Nvidia Jetson Orin işlemci modülleri tespit edildi. Söz konusu sistemlerin, önceden tanımlanmış nesne kategorilerini (propan tüpleri gibi) görsel veriler üzerinden tanıyarak saldırı kararı aldığı belirlendi. İHA'ların radyo sinyali yaymadan operasyon gerçekleştirmesi, sistemin dış müdahaleye kapalı ve tamamen otonom çalıştığını doğruluyor.

Bu gelişme, savaş hukukunda insan kontrolünün devreden çıkmasıyla ilgili ciddi güvenlik ve etik riskleri beraberinde getiriyor. Yapay zeka sistemlerinin sivil ve askeri hedefleri ayıetme kapasitesindeki belirsizlik, uluslararası düzeyde tartışma yaratıyor. Rusya'nın benzer otonom sistemleri farklı İHA modelleri üzerinde test etmeye devam ettiği bildiriliyor.