Yapay Zeka Kişisel Bilgileri Unutamıyor

Yapay zekâ sohbet botlarının kullanıcıları hatırlama yeteneği, kişiselleştirilmiş deneyimler sunma potansiyeli taşırken, aynı zamanda beklenmedik rahatsızlıklara da yol açabiliyor. Bu durum, yazılım mühendisi Brian Del Rosario'nun yaşadığı örnekle gün yüzüne çıktı.

Kişiselleştirmenin Zor Yanları

Del Rosario, günlük hayatının birçok alanında yapay zekâ sohbet botlarından destek alıyor. Ancak eşinden ayrıldıktan sonra, chatbot'a bildirdiği kişisel durum güncellemesi, sonraki sohbetlerde sürekli olarak gündeme gelmeye başladı. Takvim yönetimi veya iş stresini paylaşma gibi durumlarda bile, yapay zekâ sürekli olarak boşanma konusuna atıfta bulunarak Del Rosario'yı derin bir rahatsızlığa sürükledi.

Uzmanlar, yapay zekâ sohbet botlarının kullanıcıları zamanla tanımasının sunduğu avantajları kabul ediyor. Kullanıcıların yazım stillerini öğrenme, beslenme tercihlerini hatırlama veya devam eden projeleri takip etme gibi yetenekler, bu araçları daha etkili kılıyor.

Uzun Hafızanın Getirdiği Riskler

Ancak bu 'uzun hafıza' durumu, önemli riskleri de beraberinde getiriyor. Yanlış veya güncelliğini yitirmiş bilgilerin kalıcı hale gelmesi, kullanıcıların mahremiyet duygusunu zedeleyebiliyor. Ayrıca, hayatında yeni bir başlangıç yapmak isteyen bireyler için geçmiş bilgilerin sürekli hatırlatılması oldukça can sıkıcı olabiliyor.

ChatGPT'nin hafıza özelliğini devreye almasının ardından Google Gemini, Anthropic Claude ve Microsoft Copilot gibi platformlar da benzer sistemler sunmaya başladı. Bu sistemler, kullanıcıdan öğrenilen bilgileri hatırlayarak yanıtları şekillendiriyor. Google'ın 'Personal Intelligence' özelliği, kullanıcıların Gmail, Fotoğraflar ve YouTube verilerine de erişebiliyor.

Bir diğer önemli sorun ise yapay zekânın, size ait olmayan bilgileri dahi sizinle ilişkilendirebilmesi. Örneğin, bir yakınınız adına sorduğunuz bir sağlık sorusu, sistem tarafından sizin kişisel durumunuz olarak algılanabilir. Google, bu tür bir durumu, kullanıcının yüzlerce golf fotoğrafı üzerinden golf tutkunu olduğu varsayımını yapmasıyla örnekledi; oysa kullanıcı yalnızca oğluyla birlikte oradaydı.

Geliştirilen Çözümler ve Devam Eden Endişeler

Bu sorunlara yönelik olarak büyük teknoloji şirketleri bazı adımlar attı. Google, kişiselleştirme açıkken belirli bilgilerin vurgulanmasını engelleyebilen yeni bir özellik duyurdu. OpenAI, Plus ve Pro aboneleri için hafıza sisteminin iyileştirildiğini belirtti. Microsoft ise kullanıcıların hafıza bilgilerini güncelleyebileceğini, silebileceğini veya özelliği tamamen kapatabileceğini açıkladı.

Ancak bu özelliklerin farkında olmayan veya kullanmayan birçok kullanıcı bulunuyor. Özellikle ortak kullanılan hesaplarda, bir kişinin kişisel bilgileri diğer kullanıcıların deneyimini olumsuz etkileyebiliyor. Ayrıca, zamanla güncelliğini yitiren bilgilerin yapay zekâ tarafından kullanılmaya devam etmesi de ayrı bir problem.

Brian Del Rosario'nın kilo verme çabasıyla ilgili bilgilerin her konuşmada gündeme gelmesi veya Mike Taylor'ın göçmen kimliği üzerinden 'gerçek İngiliz birası' önerisi alması gibi durumlar, bu teknolojinin dikkatli kullanılmadığı takdirde yaratabileceği rahatsızlıkları gösteriyor.

Uzmanlar, yapay zekânın geçmiş konuşmalardan yaptığı varsayımlarla sunduğu tavsiyelerin, kullanıcı tarafından nedenini tam olarak anlayamadığı yönlendirmelere yol açabildiğini belirtiyor. Exeter Üniversitesi'nden Lucy Osler, sohbet botlarının kullanıcı hakkında oluşturduğu kimlik anlatısını gerçekmiş gibi yansıtarak sanrısal düşünceleri bile pekiştirebileceği uyarısında bulunuyor.

Bu endişeler, özellikle genç kullanıcıların korunması amacıyla düzenleme çağrılarını da beraberinde getiriyor. Belirli yasa taslaklarında, her oturum sonunda hafızanın sıfırlanması gibi öneriler yer alıyor. Uzmanlar, kullanıcıların yapay zekâ botlarının kendileri hakkında neler bildiğini düzenli olarak kontrol etmelerini, hassas konular için geçici sohbet modlarını tercih etmelerini ve gerektiğinde hafıza özelliğini tamamen kapatmalarını tavsiye ediyor.