Meta yapay zeka destekli çocuk istismarı içerikli reklamlar nedeniyle incelemede

Platformlarda Güvenlik Açığı İddiaları

Meta'nın sahip olduğu Facebook ve Instagram platformlarında, yapay zeka teknolojisiyle oluşturulmuş çocuk istismarı içerikli reklamların yayınlanmaya devam ettiği öne sürüldü. Tech Transparency Project tarafından yürütülen bir araştırma, son on aylık süreçte dünya genelinde 332 adet sakıncalı reklam tespit edildiğini ortaya koydu.

Söz konusu reklamların 84 tanesinin Hindistan'da yayınlandığı belirtiliyor. Araştırmacılar, bu içeriklerin bir kısmının Hindistan hükümetinin resmi kaldırma talimatlarına rağmen platformda tutulduğunu ifade ediyor.

Yasal Süreç ve Denetim Sorunları

Hindistan'daki yetkililerin müdahale taleplerine rağmen, 78 reklamın hükümetin uyarılarından sonra yayına girdiği iddia ediliyor. Rapora göre, gerçek çocuk fotoğraflarının yapay zeka araçlarıyla manipüle edilerek grafik içeriklere dönüştürüldüğü gözlemlendi.

Meta'nın mevcut otomatik denetim mekanizmalarının, dışarıdan gelen uyarılara rağmen bu reklamları onayladığı raporun dikkat çeken bulguları arasında yer alıyor. Şirketin kendi sistemlerinin, söz konusu içerikleri reklam standartlarını ihlal etmediği gerekçesiyle reddetmediği belirtiliyor.

Yerel Mevzuat ve Uyum Tartışmaları

Hindistan'da Just Rights for Children adlı kuruluş, konuyu Yüksek Mahkeme'ye taşıdı. Talep edilen düzenleme, sosyal medya şirketlerinin tespit ettikleri suç unsurlarını doğrudan yerel kolluk kuvvetlerine bildirmesini zorunlu kılıyor.

Meta, şüpheli içerikleri ABD merkezli Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne (NCMEC) bildiren mevcut protokollerini uyguladığını savunuyor. Ancak eleştirmenler, bu yöntemin Hindistan'ın yerel çocuk koruma yasalarıyla uyumlu olmadığını ve doğrudan yerel makamlarla iş birliği yapılması gerektiğini savunuyor.

Şirket yetkilileri, otomatik tespit sistemlerinin aktif olduğunu ve kaçınma yöntemlerine karşı stratejilerini sürekli güncellediklerini belirtiyor. Buna rağmen, reklam altyapısındaki yapısal zafiyetler, teknoloji devlerinin içerik denetimi konusundaki küresel kapasitesini tartışmaya açıyor.