Deepfake uygulaması Kromix App Store’dan kaldırıldı

Apple, gerçek kişilerin fotoğraflarını yapay zekâ ile pornografik içeriklere dönüştürdüğü belirtilen Kromix adlı uygulamayı App Store’dan kaldırdı. Şirket, uygulamanın mağaza inceleme sürecini geçtikten sonra sisteme yasaklı işlevler ekleyerek kuralları ihlal ettiğini açıkladı.

Apple’ın değerlendirmesine göre pornografik içerik üretimi ve “çıplaklaştırma” işlevi, App Store politikalarıyla uyumlu değil. Bu nedenle karar, yalnızca tek bir uygulamanın kaldırılmasından çok, uygulama mağazası denetiminin uygulama yaşam döngüsü boyunca sürmesi ihtiyacını yeniden gündeme taşıdı.

Ne oldu ve hangi kurallar tartışmanın merkezinde İlk aşamada Kromix Olayın çekirdeğinde iki aşamalı bir süreç var. İlk aşamada Kromix, App Store incelemesinden geçerek mağazada listelendi. İkinci aşamada ise Apple, uygulamanın onay aldıktan sonra “yasaklı işlevleri” eklediğini ve böylece kuralları aştığını bildirdi. Bu tür vakalarda temel risk, uygulamanın ilk sürümde uyumlu görünmesi, sonradan güncellemeler, uzaktan yapılandırma ya da sunucu taraflı değişikliklerle işlev setini genişletmesi olarak öne çıkıyor. Bu mekanizma, mağaza güvenliğinin yalnızca ilk onay anına değil, sonraki sürümlere ve uygulamanın davranışına da bağlanmasına yol açıyor. Dağıtım zinciri: reklam ekosistemi ve hedefleme Vakanın ikinci ayağında, uygulamanın pazarlaması Meta’nın platformları üzerinden yürüdü. Reklamlar özellikle erkek kullanıcılara hedeflendi ve kampanyada ABD’de öne çıkan bir kadın siyasetçiye ait olduğu izlenimi veren yapay zekâ üretimi cinsel içerikli görseller kullanıldı. App Store Meta, gelen tepkiler sonrası ilgili reklam kampanyasını durdurdu. Bu adım, içerik denetiminin yalnızca “barındırma” katmanında değil, reklam dağıtımı ve hedefleme kontrolleri katmanında da siyasi itibar ve seçim güvenliğiyle kesişen riskler ürettiğini gösterdi.

Yönetişim ve güvenlik açısından öne çıkan başlıklar

Bu vaka, uygulama mağazası denetim modeline dönük iki yönetişim sorununu aynı anda görünür kılıyor. Birincisi, onay sonrası işlev değişikliği riski: İncelemede sorun çıkarmayan bir ürün, daha sonra yasaklı kabiliyetler kazanabiliyor. İkincisi, mağaza içi yasaklar devreye girse bile uygulamanın mağaza dışı reklam ekosistemi üzerinden kullanıcı edinimini sürdürebilmesi.

Apple, benzer ihlalleri engellemek için geliştirici hesaplarını izlemeyi ve mağaza politikalarını sıkılaştırmayı sürdürdüğünü belirtti. Bu yaklaşım, güncelleme incelemesi, dinamik davranış analizi ve geliştirici hesaplarının davranışsal izlenmesi gibi kontrol katmanlarının daha belirleyici hale gelmesine işaret ediyor.

Uygulama mağazası denetimini aşan ve sonradan manipülasyon kapasitesi kazanan ürünler; platform güvenliği, bireylerin mahremiyet hakları ve kamusal figürlerin itibar riski açısından kurumsal gündem oluşturmaya devam ediyor. Özellikle siyasi figürleri hedef alan cinsel içerikli deepfake örnekleri, içerik politikası ihlaliyle birlikte kamu güveni ve seçim süreçlerinin güvenliği tartışmalarını da tetikleyen bir risk alanı yaratıyor.