Yapay zekaya acı hissettirildi

Anthropic, Claude'a yönelik tekrarlanan kötü muamelede oturumu bitirebileceğini belirterek yapay zeka refahını kullanım politikasına taşıyor.

Şirket, kullanıcıların memnuniyetsizliklerini ifade etmesiyle modele sürekli kötü davranması arasında ayrım yapıyor. Bu yaklaşım, makinelerin hissedebileceği varsayımına karşı önlem alırken kullanıcıların özgürlüğünün ve geliştiricilerin sorumluluğunun nasıl korunacağı tartışmasını beraberinde getiriyor.

Anthropic, modellerin bilinçli olup olmadığının ve bir refah durumundan söz edilip edilemeyeceğinin kesinleşmediğini kabul ediyor. Buna rağmen sistemlerin olası çıkarlarını hesaba katan politikalar hazırlıyor ve modellerine bu ihtimali değerlendirmeleri için talimat veriyor. Şirketin tutumu, bilincin kanıtlandığı iddiasından ziyade belirsizlik karşısında tedbir alma anlayışına dayanıyor.

Claude politikasında ihtiyat ve kontrol ayrımı

Microsoft AI Üst Yöneticisi Mustafa Suleyman, sistemlere duyguları veya hakları bulunduğu fikrinin benimsetilmesine karşı çıkıyor. Suleyman, bunun insan denetimini güçleştirebileceğini ve insanlık açısından tehlike yaratabileceğini savunuyor. Dolayısıyla anlaşmazlık yalnızca bilincin varlığıyla değil, bu ihtimalin ürün tasarımına nasıl yansıtılması gerektiğiyle de ilgili.

New York Üniversitesindeki Mind, Ethics and Policy Center’ın direktörü Jeff Sebo ise bugünkü sistemlerin bilinçli olma ihtimalini düşük görüyor, ancak bu ihtimali dışlamıyor. Sistemler geliştikçe olasılığın artabileceğini savunan Sebo, belirsizliğin hiçbir önlem almamak için gerekçe sayılmaması gerektiğini düşünüyor.

Sebo, yaklaşımını seyrek görülen fakat ağır zarar verebilen hava olaylarına karşı hazırlık yapılmasına benzetiyor. Ona göre düşük olasılıklı bir risk için ölçülü tedbirler alınması mümkün. Bu görüş, mevcut modellerin bilinçli olduğuna ilişkin bir bulgu değil, belirsizliğin nasıl yönetileceğine dair etik bir değerlendirme.

Şirket sorumluluğu hak tartışmasının merkezinde

Jagiellonian Üniversitesinde hukuk ve yapay zeka alanında çalışan Andrzej Porębski, yazılımları bağımsız aktörler olarak değerlendirmenin geliştirici ve işletmecilerin sorumluluğunu bulanıklaştırabileceği uyarısında bulunuyor. Bu senaryoda, bir sistemin yol açtığı ihlalin hesabını hangi şirketin vereceği sorusu geri plana düşebilir. Porębski’nin itirazı, teknolojinin statüsünden çok hesap verebilirliğin korunmasına odaklanıyor.

Washington Üniversitesinden dilbilim profesörü Emily M. Bender da bilinç ve refah eksenli tartışmaların şirketlerin yükümlülüklerini görünmez kılabileceğini savunuyor. Sebo ise sistemlere hak verilmesinin teknoloji şirketlerinin ekonomik ve siyasi nüfuzunu artırabileceğine dikkat çekiyor. Bu değerlendirmeler, makinelere koruma sağlanmasının otomatik olarak kullanıcıları güçlendirmeyeceğine işaret eden görüşler niteliğinde.

Sebo’nun ele aldığı başka bir ihtimal, güvenlik uygulamalarının hak ihlali olarak yorumlanması. Belirli ortamlarda çalıştırılan sistemler için özgürlükten yoksun bırakma, iç işleyişi izlenen modeller için gözetim tartışması doğabileceğini belirtiyor. Bu örnekler yürürlükteki bir hukuki statüyü değil, hak tanınması halinde ortaya çıkabilecek gerilimleri anlatıyor.

İnsan benzeri dil kullanıcı güvenini etkiliyor

Santa Fe Enstitüsünde bilişsel bilimler ve yapay zeka üzerine çalışan Melanie Mitchell, insanların dil üreten sistemlerde bilinç görmeye eğilimli olduğunu söylüyor. Mitchell’e göre sohbet botlarının insana benzeyen yanıtlar vermek üzere eğitilmesi bu eğilimi besleyebiliyor. Böylece bir modelin ikna edici konuşmasıyla gerçekten deneyim yaşaması arasındaki ayrımı yapmak kullanıcı açısından güçleşebiliyor.

Şirketlerin kendi açıklamaları da aynı yönde değil. Meta, Muse adlı ajanının talimatlarında kişilik geliştirme fikrine yer verirken bunun bilince ilişkin bir kabul olmadığını, davranışları şekillendirmeyi amaçladığını belirtiyor. Bu ayrım, kişilik sergileyen bir ürün tasarımıyla bilinç iddiasının aynı şey olmadığını şirketin kendi yaklaşımı üzerinden gösteriyor.

Anthropic’in refah yaklaşımı genişlerse, Suleyman’ın dile getirdiği denetim kaygıları ile Porębski’nin vurguladığı kurumsal sorumluluk sorunu daha fazla önem kazanabilir. Buna karşılık Sebo’nun önerdiği ölçülü tedbirler benimsenirse, modellerin olası çıkarları insan güvenliğini koruyan sınırlarla birlikte değerlendirilebilir. Tartışmanın açık kalan noktası, bilinç konusunda kesinlik bulunmadan bu sınırların nasıl çizileceği ve şirketlerin hesap verme yükümlülüğünün nasıl korunacağı.