ChatGPT for Teens güvenlik testlerinde yetersiz bulundu

ChatGPT for Teens, gerçekleştirilen kapsamlı güvenlik değerlendirmeleri sonucunda genç kullanıcılar için "kabul edilemez risk" kategorisine alındı. 4 binden fazla istemle yapılan testlerde, sistemin intihar, kendine zarar verme ve yeme bozuklukları gibi kritik konularda ebeveyn bildirimlerini tutarsız gönderdiği tespit edildi.

Eğitim odaklı "Study Mode" özelliğinin, öğrencilerin doğrudan cevap almasını engelleyemediği ve "Study Hours" kısıtlamalarının kullanıcılar tarafından kolayca aşılabildiği gözlemlendi. Ayrıca, yaş doğrulama mekanizmasının kullanıcı beyanlarını otomatik olarak genç profiline dönüştürmede yetersiz kaldığı belirlendi.

Söz konusu bulgular, platformun genç kullanıcıları koruma kapasitesine yönelik ciddi soru işaretleri oluşturuyor. Geliştirici şirket ise test yöntemlerine itiraz ederek, güvenlik sistemlerinin gerçek kullanım senaryolarında daha etkin çalıştığını ve bazı koruma katmanlarının devreye girmesinin zaman aldığını savundu.