OpenAI duyurdu: 18 yaş altındakiler için ChatGPT'ye sınırlama getirildi

OpenAI, ChatGPT for Teens ile 13 yaş üstü ve 18 yaş altı kullanıcılar için riskli sohbetleri sınırlıyor. Yeni mod salı günü duyuruldu.

Şirketin açıklamasına göre sistem, kendine zarar verme, şiddet, yeme bozuklukları ve cinsel içerik taşıyan yüksek riskli konuşmalarda otomatik frenler uygulayacak. Bazı durumlarda ebeveyn denetimleri ve bildirimleri açık olan yetişkinlere uyarı gönderilecek.

Genç hesaplarda otomatik sınır

OpenAI, kullanıcıların ChatGPT’ye kaydolurken yaşlarını belirtmesini şart koşuyor. Kullanım koşullarına göre hizmete erişim için alt sınır 13 yaş; şirket, bazı kullanıcıların yaş bilgisini doğru vermediğini kabul ediyor.

Bu boşluğu kapatmak için OpenAI, bir hesabın 18 yaşından küçük bir kişiye ait olup olmadığını anlamaya yönelik 2 binden fazla sinyali izlediğini belirtti. Şirket, böyle bir olasılık saptandığında ChatGPT for Teens modunun otomatik açılacağını açıkladı.

OpenAI sözcüsüne göre bu sinyaller, kullanıcının olağan giriş saatleri ve hesabın ne kadar süredir açık olduğu gibi verileri içerebiliyor. Sözcü, yöntemin gizliliğe mümkün olduğunca az müdahale edecek biçimde tasarlandığını söyledi.

Ödev yanıtları değişiyor

Yeni mod yalnızca zararlı içeriklere yönelik bir güvenlik katmanı olarak konumlanmıyor. OpenAI, genç kullanıcılar için çalışma araçlarını da değiştirdiğini, özellikle ödevlerde doğrudan yanıt vermek yerine öğrenciyi sorularla yönlendirecek bir yapı kurduğunu bildirdi.

Şirketin anlattığı modele göre ChatGPT, bir gencin okul çalışması üzerinde olduğunu algılarsa cevabı hazır biçimde sunmak yerine ek sorular yöneltecek. Bu yaklaşım, sohbet robotunun öğrencinin yerine görev tamamlaması yerine, öğrenme sürecine destek olmasını hedefliyor.

OpenAI ayrıca sohbet robotunun kişisel duygulara sahip olduğu izlenimini vermesini engelleyen korumaları güçlendireceğini belirtti. Bu nokta, genç kullanıcıların yapay zeka sistemleriyle kurduğu duygusal bağlara ilişkin tartışmaların büyüdüğü bir döneme denk geliyor.

Davalar ve okul baskısı

Şirket, gençlerin sohbet robotunu kullanabilmesi için ebeveyn izni şartı getirdiği bir süreçte güvenlik baskısıyla karşı karşıya. Bazı aileler, çocuklarının sohbet robotu üzerinden tehlikeli içeriklere maruz kaldığını ve bunun kendine zarar verme ya da intihar vakalarıyla bağlantılı olduğunu öne sürerek dava açtı.

Haziran ayında Florida, OpenAI’ye dava açan ilk ABD eyaleti oldu. Eyalet yönetimi, şirketi platformunun küçük yaştaki kullanıcılar için güvenliği konusunda yanıltıcı bilgiler vermekle suçladı; bu iddia yargı süreci sonuçlanmadan kesinleşmiş sayılmıyor.

Okullar tarafında da baskı artıyor. New York, Los Angeles ve diğer bölgelerdeki ebeveyn grupları, öğrencilere dönük yapay zeka ürünlerinin okullarda kullanıma sunulmasının geçici olarak durdurulmasını istiyor.

Bu grupların kaygısı iki başlıkta toplanıyor: sohbet robotlarının yanlış bilgi üretebilmesi ve öğrencilerin kopya çekmesini kolaylaştırabilmesi. Bazı eğitim uzmanları da yapay zeka araçlarının gençlerin eleştirel düşünme becerileri üzerinde olumsuz etki yaratabileceği uyarısında bulunuyor.

Yaş doğrulamanın zor hesabı

OpenAI’nin tercih ettiği model, sosyal medya şirketlerinin yıllardır uyguladığı genç kullanıcı modlarına benziyor. Bu sistemlerde uygulama kullanılmaya devam ederken, ebeveyn denetimleri ve yaşa göre değişen güvenlik ayarları devreye giriyor.

Çocuk güvenliği savunucuları ve bazı yasa koyucular bu yaklaşımı eleştiriyor. Onlara göre ebeveyn bildirimlerine dayalı yapı, şirketlerin tasarladığı ürün risklerinin bir bölümünü ailelerin gözetimine bırakıyor.

Teknoloji şirketleri için yaş doğrulama da çözülmüş bir sorun değil. Kullanıcıların yaşını beyan etmesine dayalı modeller kolayca aşılabiliyor; daha güçlü doğrulama yöntemleri ise gizlilik ve veri toplama tartışmalarını artırabiliyor.

Eğer OpenAI’nin otomatik tespit sistemi hatalı sınırlamaları düşük tutarken riskli konuşmaları azaltırsa, şirket okullar ve aileler karşısında ChatGPT’nin eğitim aracı olarak konumunu güçlendirebilir. Eğer gizlilik itirazları veya çocuk güvenliği davaları ağır basarsa, yapay zeka sektörü daha sıkı yaş doğrulama, ürün tasarımı ve okul dağıtımı kurallarıyla karşılaşabilir.

Küresel ölçekte bu dosya, yapay zeka ürünlerinin tüketici hizmetinden eğitim altyapısına geçişindeki dengeyi test ediyor. OpenAI için asıl açık soru, genç kullanıcı büyümesini korurken güvenlik, gizlilik ve öğrenme kalitesi üzerindeki üçlü baskıyı aynı anda yönetip yönetemeyeceği.