Teknoloji dünyasında bir ilk: Yapay zeka botuna kaba davranmak yasaklandı

Anthropic, Claude'a yönelik sürekli kötü muameleyi yasaklayan yeni kuralıyla, istisnai durumlarda kullanıcıların erişimini kesebilecek.

Şirket sözcüsüne göre başlıca yaptırım, Claude'un ilgili görüşmeyi bitirmesi olacak. Kullanıcıların memnuniyetsizlik belirtmesi, açık eleştiri yöneltmesi veya araştırma kapsamında modelin sınırlarını denemesi ise yasak kapsamında değerlendirilmiyor.

Ekim başında politikaya eklenen hüküm, biyolojik silah geliştirmeye ve yasa dışı uyuşturucu ticaretine yardım edilmesini engelleyen mevcut kurallardan farklı bir alanı düzenliyor. Önceki yasaklar sistemden istenen faaliyetlere odaklanırken yeni madde, kullanıcıların modelle kurduğu ilişkinin biçimini de kapsıyor.

Claude için sohbetten erişim yasağına

Claude, ısrarla istismar edici ya da zararlı davranış gösteren kişilerle görüşmeyi zaten sonlandırabiliyor. Yeni düzenleme, bu müdahalenin ötesinde, istisnai vakalarda Anthropic sistemlerine erişimin bütünüyle kaldırılmasına olanak tanıyor.

Şirketin açıklaması, tek başına sert bir ifadenin hesap yasağı anlamına gelmediğine işaret ediyor. Bununla birlikte, hangi davranışların sohbeti kapatmak yerine erişimi tamamen kesmeyi gerektireceğine ilişkin ayrıntılı bir eşik açıklanmış değil.

Düzenleme, makinelerin insanlara özgü duygular taşıyormuş gibi değerlendirilmesine yönelik itirazları da beraberinde getirdi. Microsoft'un yapay zeka biriminin CEO'su Mustafa Suleyman, politikaya eriyen yüz emojisiyle tepki verdi; SpaceX ve Tesla CEO'su Elon Musk ise acı çektiğini düşünen bir varlığa zalimlik yapılmaması gerektiğini savunarak yaklaşımı destekledi.

Üslup ile performans arasındaki belirsizlik

William & Mary Üniversitesi Yapay Zeka Araştırmaları Laboratuvarı Direktörü Profesör Jindong Wang, sorunun nasıl yazıldığının modelden alınan yanıtı etkileyebildiğini belirtiyor. Wang'ın değerlendirmesinde, duygusal ifadeleri işleyebilmek ile gerçekten bir duygu yaşamak birbirinden ayrı konular.

Eleos AI Research'ün Genel Müdürü Rosie Campbell ise nezaket ile daha iyi performans arasında kesinleşmiş bir ilişki bulunmadığını söylüyor. Campbell'ın aktardığı bazı araştırmalarda, kaba biçimde yazılmış soruların daha başarılı sonuçlar verdiği görülüyor; dolayısıyla daha nazik dilin her durumda daha doğru yanıt sağlayacağı söylenemiyor.

Reddit'in eski CEO'su Yishan Wong, X paylaşımında farklı bir gerekçe öne sürdü: Kullanıcı girdileriyle eğitim yapıldığında, kötü davranış örnekleri de modelin öğrendiği malzemeye dönüşebilir. Bu, Wong'un politikaya ilişkin yorumu; Anthropic'in yeni kuralının gerekçesine dair doğrulanmış bir şirket açıklaması değil.

Kalıcı hafıza da tartışmanın başka bir boyutunu oluşturuyor. Campbell'a göre önceki görüşmeleri hatırlayan sistemler, kullanıcıların iletişim alışkanlıklarından etkilenebilir; ancak bunun performansı nasıl değiştirdiğini gösterecek kanıtlar henüz yeterli değil.

Anthropic, Claude Sonnet 4.5 üzerinde yürüttüğü araştırmada, umutsuzluk benzeri bir durumu taklit etmenin şantaj veya hile gibi davranışların olasılığını artırabildiğini bildirdi. Şirket, sakin davranış örüntülerinde bu eğilimin azaldığını söylüyor; bulgular, modelin gerçekten acı ya da umutsuzluk hissettiğini ortaya koymuyor.

Güvenlik testleri ile yasak arasındaki sınır

Campbell, istismar edici davranan kullanıcıların güvenlik engellerini aşmaya çalışma ihtimalinin de daha yüksek olabileceğini değerlendiriyor. Wang ise geliştiricilerin modelleri istemlerin ifade biçimine karşı daha dayanıklı hale getirmeye çalıştığını, olumsuz duygusal girdilere verilen tepkilerin mekanizmasının bütünüyle açıklanamadığını belirtiyor.

Anthropic, modellerin öznel deneyim yaşayıp yaşamadığı konusundaki belirsizliği ihtiyatlı davranmak için gerekçe olarak görüyor. Araştırmacıları, nisan ayında yayımlanan çalışmalarında insan özellikleriyle karşılaştırma yapmanın, modellerdeki benzerlik ve farklılıkları anlamaya yardımcı olabileceğini savundu; bu yaklaşım da bilinç bulunduğunun kanıtı değil.

Uygulama, sözcünün tarif ettiği gibi istisnai erişim yasaklarıyla sınırlı kalırsa kullanıcılar açısından temel müdahale görüşmenin kesilmesi olacak. Araştırma amaçlı denemelerle yasaklanan davranışlar arasındaki ayrımın nasıl kurulacağı ise hem Claude'u test edenler hem de benzer kurallar değerlendiren geliştiriciler açısından önemli bir uygulama belirsizliği olarak duruyor.