YouTube algoritmalarının gençlere yönelik tehlikeli içerik ihlalleri yasal takibe takıldı

Birleşik Krallık merkezli bağımsız araştırmacılara göre, YouTube'un otomatik öneri algoritması hâlâ 13 yaşındaki kullanıcı profillerine aşırı kalori kısıtlaması, zayıflama ilhamı ve yeme bozukluklarını teşvik eden içerikler sunmaya devam ediyor. Düzenleyici kurumların kestiği cezalar ve artan yasal baskılara rağmen, platformun veri tabanındaki mevcut içerik sınıflandırma sistemlerinin gençleri korumada büyük ölçüde yetersiz kaldığı belgelendi.

Bu durum, çocukların dijital güvenliğini sağlama konusunda teknoloji devlerine yönelik endişeleri yeniden alevlendirdi.

Dijital Nefretle Mücadele Merkezi (CCDH) uzmanları tarafından 13 yaşındaki bir kızı taklit eden simüle edilmiş bir hesapla gerçekleştirilen testler, YouTube'un "Sıradaki" algoritmasının izlenen videoların onda birinde riskli ve zararlı vücut imajı içeriklerini devreye soktuğunu ortaya koydu. CCDH tarafından hazırlanan raporda son iki yılda bu tür önerilerin sıklığında belirli bir iyileşme kaydedildiği vurgulansa da platformun algoritmik yapısındaki köklü sorunların kullanıcılara yalıtılmış bir tehdit ortamı yarattığına dikkat çekildi.

Yüzde 10 küresel gelir cezası yolda

Platformların bu riskleri engelleme konusundaki isteksizliği veya teknik

Platformların bu riskleri engelleme konusundaki isteksizliği veya teknik başarısızlığı, Birleşik Krallık'ta Temmuz 2025'te yürürlüğe girecek olan Çevrimiçi Güvenlik Yasası ile birlikte hukuki bir yaptırım alanına çekiliyor. Yeni mevzuat, teknoloji şirketlerine 18 yaş altındaki kullanıcıları kendine zarar verme, intihar ve yeme bozukluklarını teşvik eden materyallerden koruma noktasında bağlayıcı bir yasal yükümlülük getiriyor.

İçerik filtreleme kurallarına uymayan şirketler, ihlalin boyutuna göre küresel gelirlerinin yüzde 10'una kadar uzanan devasa para cezalarına çarptırılma tehlikesiyle karşı karşıya kalacak.

Birleşik Krallık telekomünikasyon denetleme kurumu Ofcom'un yayımladığı veri setine göre, ülke genelindeki 3 ile 17 yaş arası çocukların yüzde 88'i aktif olarak YouTube kullanıyor. Ofcom yetkilileri, platformun güvenlik parametrelerinin bu kadar geniş bir kullanıcı kitlesi için acilen güncellenmesi gerektiğini savunurken; YouTube'un çatı şirketi Google cephesi ise ihlal barındıran içeriklerin tespit edilip silindiğini ve İngiltere Ulusal Sağlık Sistemi (NHS) dahil olmak üzere uzman kuruluşlarla güvenliği artırmak adına çalışmalara ağırlık verildiğini açıkladı.

Hastaların yüzde 90'ı zararlı içeriğe maruz kalıyor

İçerik filtreleme protokollerindeki yapısal boşluklar, sahada görev yapan klinik uzmanların ve tedavi gören hastaların doğrudan tedavi süreçlerine yansıyor. Yeme bozuklukları yardım kuruluşu Beat direktörlerinden Vanessa Longley, kendilerinden profesyonel destek talep eden bireylerin yaklaşık yüzde 90'ının internette durumlarını doğrudan tetikleyen zararlı içeriklerle karşılaştıklarını bildirdiğini açıkladı.

NHS nezdinde altı yıl boyunca anoreksiya tedavisi gören Jazmin Kaur gibi genç hastalar, algoritmaların sürekli ekranlara düşürdüğü uç materyallerin hastalıkla mücadele sürecini ciddi biçimde baltaladığını ifade ediyor.

Ruh sağlığı uzmanları

Ruh sağlığı uzmanları, çevrimiçi ortamların yeme bozukluğu gelişiminin tek nedeni olmamasına rağmen algoritmaların tetikleyici materyalleri sürekli öne çıkarmasının hastalık seyrini ve izolasyon duygusunu derinleştirdiğini vurguluyor. Beat organizasyonu; kullanıcılara ekran süresini kısıtlayan dış uygulamalar kullanmalarını veya tetikleyici videolarda ilgilenmediklerine dair aktif geribildirim bırakmalarını önerse de asıl güvenlik altyapısını inşa etme görevinin algoritma geliştiricilerinde olduğu belirtiliyor.

Platformlarda aşılamayan bu algoritmik kriz, yasa koyucuları yeni nesil önlemler almaya zorluyor. İngiltere hükümeti, tırmanan yeme bozukluğu ve ruh sağlığı krizinin önüne geçebilmek adına 16 yaş altı kişilerin tüm büyük sosyal medya ağlarına erişimini topyekûn engellemeye yönelik adımını hazırlarken söz konusu kısıtlama mekanizmasının 2027 baharında tam olarak hayata geçirilmesi hedefleniyor.