Yapay zeka çöplüğü platformları temizliğe zorluyor

Yapay zeka çöplüğü, Spotify’dan YouTube’a uzanan platformları milyonlarca içerik için daha sert denetim araçlarına yöneltiyor.

Google aramalarındaki hatalı tariflerden Amazon’daki sahte biyografilere ve Facebook’taki yapay zeka görsellerine kadar düşük kaliteli sentetik içerik, büyük platformların ürün güvenliği gündemine yerleşti. Şirketler, üretken yapay zekanın ucuz ve hızlı içerik üretimini kolaylaştırmasının ardından hem otomatik tespit sistemlerini hem de kullanıcı bildirim araçlarını genişletiyor.

Spotify 75 milyon yüklemeyi kaldırdı

Spotify, geçen yıl toplu yükleme, kopya şarkı ve başka istenmeyen içeriklerden oluşan 75 milyon parçayı platformdan kaldırdığını açıkladı. Şirketin verdiği rakam, müzik servislerinde yapay zeka destekli üretimin artık yalnızca telif veya kalite meselesi olmadığını, katalog yönetimi sorunu haline geldiğini gösteriyor.

Fransız müzik platformu Deezer, ilkbahar aylarında sisteme yüklenen parçaların neredeyse yarısının yapay zeka üretimi olduğunu bildirdi. Apple Music’e yüklenen içeriklerin üçte birinden fazlasının da yapay zeka kaynaklı olduğu belirtilirken, bu parçaların çoğunun kullanıcılar tarafından hiç dinlenmediği aktarıldı.

LinkedIn yönetimi temmuz ayında yapay zeka kaynaklı düşük kaliteli içerikleri en üst gündem maddelerinden biri yaptığını duyurdu. Platform, kullanıcıların bu gönderileri daha kolay bildirmesi için yeni bir buton geliştirirken, profesyonel ağlarda güvenilir profil, ilan ve yorum akışının korunması öne çıktı.

YouTube kalıpları hedef aldı

Google bünyesindeki YouTube’dan araştırmacılar, düşük kaliteli içerik üreten 130 bin kanalı altı ay içinde sildiklerini anlattı. Araştırmacılar, videoları tek tek izlemek yerine yükleme hızı, tekrar eden şablonlar ve koordineli davranış gibi işaretleri izleyerek 50 bin hesap kümesini tespit etti.

Kapwing’in geçen yıl yaptığı deney, YouTube’da yeni kullanıcılara önerilen kısa videoların yüzde yirmi’den fazlasının yapay zeka çöplüğü niteliğinde olduğunu ortaya koydu. Şirketin tahminine göre en popüler çöp kanallarından biri yılda 4,25 milyon dolar gelir elde etti; söz konusu kanal daha sonra YouTube’un para kazanma programından çıkarıldı.

YouTube CEO’su Neal Mohan, blog yazısında yapay zeka çöplüğünü yönetmeyi bu yılın ana öncelikleri arasında saydı. YouTube ise yaptığı açıklamada akademik çalışmaların sektörün anlayışını geliştirdiğini, ancak şirketin politika uygulamasında kullandığı savunma katmanlarını tam olarak yansıtmadığını belirtti.

Etiketler yanlış alarm üretiyor

Pinterest, ekim ayında kullanıcıların yapay zeka üretimi gönderileri sınırlamasına olanak tanıyan bir sistem güncellemesi yaptı. TikTok da ABD’de kişilerin görünür yapay zeka içeriği miktarını ayarlayabilmesini sağlayan bir özelliği test ettiğini duyurdu.

TikTok, bugüne kadar 3 milyardan fazla yapay zeka üretimi videoyu otomatik olarak etiketlediğini bildirdi. Platform, yılın ilk üç ayında politikalarını ihlal eden 377 binden fazla videoyu kaldırdığını açıklayarak denetimin yalnızca etiketleme ile sınırlı kalmadığını gösterdi.

Pangram’a göre X’te 50 kelimeden uzun gönderilerin neredeyse yarısı yapay zeka ile oluşturuldu. X’in ürün müdürlüğünden ayrılan Nikita Bier, platformun yapay zeka çöplüğü ve spam yanıtlarla mücadele için içerik ödemesi yoluyla botları teşvik eden uygulamaları yasakladığını söyledi.

Substack, Pangram destekli aracının 100 kelimeden uzun yanıtları, yorumları ve gönderileri tarayarak metnin insan ya da yapay zeka kaynaklı olup olmadığını belirlemeyi amaçladığını duyurdu. Bazı yazarlar ise bu tür araçların insan tarafından yazılan metinleri yanlışlıkla yapay zeka ürünü olarak işaretleyebildiğinden şikayet etti.

Meta cephesinde çelişki daha görünür hale geldi. Şirket, temmuz ayında Avrupa’da yapay zeka içeriklerinin tespitini kolaylaştıracak bir paktı destekleyeceğini bildirirken, aynı ay herkese açık Instagram hesaplarını referans alan bir görsel oluşturucu yayımladı ve yoğun tepkinin ardından özelliği üç gün içinde kaldırdı.

Eğer platformlar tespit sistemlerini isabetli çalıştırabilirse, kullanıcı güveni ve reklam verenlerin marka güvenliği talebi aynı çizgide kalabilir. Bu senaryoda küresel dijital reklam piyasasında kalite ölçümü daha merkezi hale gelirken, Spotify, YouTube ve Meta gibi şirketler daha pahalı fakat daha temiz içerik operasyonlarına yönelebilir.

Eğer yanlış pozitifler artar ya da çöp içerik gelir getirmeye devam ederse, meşru üreticiler ile otomatik hesaplar arasındaki ayrım daha tartışmalı hale gelir. Ana açık soru, şirketlerin yapay zeka üretimini yasaklamak yerine düşük kalite, spam ve koordineli davranışı hangi ölçütlerle ayıracağıdır.

Kaynak: Forbes