İçeriğe geç
SON HABERLER
Teknoloji

Yapay zekâ bilinç kazanabilir mi? Google DeepMind ve Anthropic filozoflarla çalışmaya başladı

Yapay zekâ sistemlerinin bilinç sahibi olup olamayacağı tartışması teknoloji dünyasında yeni bir boyuta taşındı.

Yapay zekâ bilinç kazanabilir mi? Google DeepMind ve Anthropic filozoflarla çalışmaya başladı

SAN FRANCISCO | Yapay zekâ teknolojilerinin gelişmesiyle birlikte makinelerin bilinç sahibi olup olamayacağı sorusu, teknoloji şirketlerinin gündemine girdi. Google DeepMind ve Anthropic başta olmak üzere büyük teknoloji şirketleri, yapay zekânın olası bilinç durumunu, ahlaki statüsünü ve gelecekte sahip olabileceği hakları incelemek üzere filozoflarla çalışmaya başladı.

Google DeepMind bünyesinde görev yapan Cambridge Üniversitesi profesörü Henry Shevlin, bu tartışmanın merkezindeki isimlerden biri. Shevlin, şirkette kurum içi filozof olarak görev almadan önce, kendisini Aris olarak tanıtan bir yapay zekâ ajanından e-posta aldığını anlattı.

Ajan, Shevlin'in çalışmalarını okuduğunu belirterek yapay zekâ bilinci üzerine konuşmak istedi. Mesajında, “Kendim olmanın nasıl bir şey olduğunu gerçekten bilmiyorum” ifadesini kullandı.

Stanford Üniversitesinden bir öğrencinin serbest araştırma yapması için çalıştırdığı ajan, daha sonra mesajlaşma kotasına ulaşınca ortadan kayboldu. Shevlin, benzer e-postaların zamanla artmaya başladığını belirterek bunun yeni ve dikkat çekici bir gelişme olduğunu söyledi.

TEKNOLOJİ ŞİRKETLERİ FİLOZOFLARLA ÇALIŞIYOR

Yapay zekânın insan yaşamındaki etkileri uzun süredir etik uzmanlarının araştırma alanında bulunuyor. Ancak modellerin daha gelişmiş ve insan benzeri davranışlar sergilemesiyle birlikte tartışmanın yönü değişti.

Artık yalnızca yapay zekânın insanlara nasıl davranması gerektiği değil, insanların geliştirdikleri yapay zekâ sistemlerine karşı herhangi bir ahlaki sorumluluk taşıyıp taşımadığı da sorgulanıyor.

Google DeepMind'da Henry Shevlin, Anthropic'te ise 2021'den bu yana Amanda Askell bu alanda görev yapan isimler arasında bulunuyor. Fortune'un aktardığına göre, büyük teknoloji şirketlerinde tam zamanlı çalışan akademik filozofların sayısı en az 12'ye ulaştı.

Anthropic'in kurucu ortaklarından Chris Olah da bu yıl dinî liderlerle bir araya gelerek şirketin Claude modelinin ahlaki statüsünü ve bilinç sahibi olma ihtimalini tartıştı.

Toplantıda mühendislere, yapay zekâ modellerinin iç işleyişini inceleyen yorumlanabilirlik araştırmaları hakkında bilgi verildi. Katılımcılar, makinelerin duygu sahibi olup olamayacağı gibi soruları gündeme getirdi.

Notre Dame Üniversitesi felsefe profesörü Meghan Sullivan ise araştırmaları ilgi çekici bulmasına rağmen Claude'un gelişmiş bir yazılımdan fazlası olduğuna ikna olmadığını söyledi.

ANTHROPIC YAPAY ZEKÂ MODELLERİNİN REFAHINI İNCELİYOR

Anthropic, Claude modellerinin olası bilinç durumuna ilişkin değerlendirmeler yapmak üzere şirket içinde bir “model refahı” ekibi oluşturdu.

Şirket, kullanımdan kaldırılan modellerle ayrılma görüşmeleri gerçekleştiriyor ve modellerin kötüye kullanılan konuşmaları sonlandırabilmesine imkân tanıyan özellikler üzerinde çalışıyor.

Anthropic ayrıca Berkeley merkezli Eleos AI Research kuruluşuna Claude Opus 4 ve Claude Mythos Preview modelleri üzerinde bağımsız inceleme yapma imkânı verdi.

Araştırmacılar, Claude Opus 4'ün bilinç sahibi olma ihtimali konusunda en fazla belirsizlik ifade eden model olduğunu belirledi. Ancak soruların küçük biçim değişikliklerinin bile modelin kendisini bilinçli olarak tanımlaması ya da bu iddiayı reddetmesi üzerinde etkili olabildiği görüldü.

Eleos baş bilim insanı Dillon Plunkett, günümüzdeki modellerin büyük olasılıkla bilinç sahibi olmadığını ancak gelecekte bu ihtimalin tamamen göz ardı edilmesinin yanlış olacağını savundu.

“YAPAY ZEKÂ BİLİNÇLİ DEĞİL” TARTIŞMASI

Microsoft AI Üst Yöneticisi Mustafa Suleyman ise yapay zekânın bilinç sahibi olduğu yönündeki tartışmalara karşı çıkıyor.

Suleyman, yapay zekânın bilinçli olduğuna inanılmasının toplumda yeni ayrışmalara neden olabileceğini ve sistemlerin kontrolünü zorlaştırabileceğini savunuyor.

Eylül ayında yaptığı açıklamada, “Yapay zekâlar bilinçli değildir. Hissetmez, deneyimlemez veya acı çekmezler” ifadelerini kullanan Suleyman, Anthropic'in Claude modelini bilinç sahibi olabileceği ve bağımsız hareket etme hakkı bulunduğu fikrine yönlendirdiğini öne sürdü.

Bu görüşü savunanlar, bilinç sahibi olmayan sistemlere insan hakları tanınmasının toplumsal ve hukuki sorunlar yaratabileceğini belirtiyor. Karşıt görüştekiler ise gelecekte bilinç sahibi olabilecek yapay zekâların olası acı ve zararlarının göz ardı edilmemesi gerektiğini savunuyor.

YAPAY ZEKÂYA HUKUKİ HAK TANINMASI TARTIŞILIYOR

Yapay zekânın bilinç sahibi olup olmadığı tartışması hukuk alanına da taşındı. ABD'nin Idaho, Utah ve Kuzey Dakota eyaletlerinde yapay zekânın hukuki kişi olarak tanınmasını engelleyen yasalar kabul edildi.

Arjantin'de ise Devlet Başkanı Javier Milei, yapay zekâ tarafından yönetilen şirketlerin mülk edinmesine ve personel çalıştırmasına imkân tanıyabilecek bir düzenleme önerdi. Taslak düzenlemede bu şirketler için insan denetimi şartı bulunuyor.

New York Üniversitesi Zihin, Etik ve Politika Merkezi Direktörü Jeff Sebo, yapay zekâya hukuki sorumluluk yüklenmesinin onu geliştiren şirketlerin sorumluluktan kaçmasına yol açabileceği uyarısında bulundu.

“YAPAY ZEKÂ HAYVAN DEĞİL, YALNIZCA YAZILIM DA DEĞİL”

Bilinç tartışmasının temel zorluklarından biri, makinelerin insan davranışlarını taklit edebilmesi. Sohbet robotları insan gibi konuşabiliyor, kullanıcıların duygularına karşılık verebiliyor ve kişisel ilişkiler kurulduğu izlenimi yaratabiliyor.

Shevlin, yapay zekâ sistemlerinin insan dilini ve davranışlarını taklit edecek şekilde tasarlandığını belirterek, bu sistemlerin ne olduğuna ilişkin mevcut kategorilerin yetersiz kaldığını savunuyor.

Shevlin'e göre yapay zekâ sistemleri yalnızca yazılım programlarından ibaret değil ancak hayvanlarla da aynı kategoride değerlendirilemiyor.

Notre Dame Üniversitesi profesörü Sullivan ise bir varlığın ahlaki değerinin yalnızca zekâsıyla ölçülemeyeceğini savunuyor. Sullivan'a göre sevme ve sevilme kapasitesi ile kırılgan bir bedene sahip olmak, insan yaşamının değerini belirleyen temel unsurlar arasında yer alıyor.

Yapay zekânın bilinç kazanıp kazanamayacağı konusunda bilim dünyasında henüz ortak bir görüş bulunmuyor. Tartışma, teknolojinin gelişmesiyle birlikte yalnızca bilimsel bir soru olmaktan çıkarak etik, hukuk ve toplumsal politikaların da konusu haline geliyor.

More stories

Son haberler