Uzmanlar uyarıyor: Yapay zeka sohbet botu ile paylaşılmaması gereken 5 bilgi

Yapay zeka sohbet botları, kullanıcıların kişisel, tıbbi ve finansal verilerini paylaşma alışkanlıklarını yeniden tartışmaya açtı.

ChatGPT, Gemini, Copilot ve Claude gibi araçlar e-posta taslağı hazırlamak, bilgi aramak ve randevu öncesi soru listesi oluşturmak için günlük kullanıma girdi. Gizlilik uzmanlarının uyarısı, bu konuşmaların arama kutusundan çok daha geniş ve kişisel veri içerebilmesine dayanıyor.

Altı geliştirici politikası incelendi

Stanford İnsan Odaklı Yapay Zeka Enstitüsü tarafından yapılan yakın tarihli bir araştırma, ABD merkezli altı büyük sohbet sistemi geliştiricisinin gizlilik metinlerini inceledi. Çalışmada OpenAI'ın ChatGPT'si, Google'ın Gemini'si, Anthropic'in Claude'u, Amazon'un Nova'sı, Meta'nın MetaAI'ı ve Microsoft'un Copilot'u yer aldı.

Araştırmaya göre bu şirketlerin tamamı, müşteri konuşmalarını varsayılan ayarlarda modellerini eğitmek ve geliştirmek için kullanabildiğini belirtiyor. Bulgular ayrıca bazı sağlayıcıların bu kayıtları belirli bir süre sınırı olmadan saklayabildiğini gösterdi.

Elon Üniversitesi Dijital Geleceği Hayal Etme Merkezi Direktörü Lee Rainie, büyük dil modellerinin benimsenme hızının her ölçüte göre dikkat çekici olduğunu söyledi. Rainie'nin değerlendirmesi, bu sistemlerin yalnızca iş akışlarına değil, insanların sosyal ilişkilerine de girmesine odaklandı.

Kimlik ve mahremiyet verileri

Bilgi güvenliği uzmanı George Al-Koura'ya göre tam ad, ev adresi, telefon numarası, sosyal güvenlik numarası, pasaport ve ehliyet numarası gibi kişisel olarak tanımlanabilir bilgiler sohbet botlarına girilmemeli. Bu veriler kaydedildiğinde, kötüye kullanım ya da yetkisiz işleme riski kullanıcının kontrol alanının dışına çıkabilir.

Risk yalnızca yazılan komutlarla sınırlı değil. Kullanıcı bir özgeçmiş, başvuru formu veya benzeri dosya yüklediğinde, belgede kalan adres, telefon ve kimlik bilgileri de aynı veri akışına dahil olabilir.

Uluslararası Gizlilik Profesyonelleri Birliği Yapay Zeka Yönetişimi Merkezi Genel Müdürü Ashley Casovan, sohbet formatının kullanıcılarda yanlış bir güven hissi yaratabileceğini belirtti. İnsan benzeri yanıtlar, arama motoruna yazılmayacak özel ilişkiler, ruh hali veya davranış bilgilerini sohbet penceresine taşımayı kolaylaştırabilir.

Sağlık soruları veri izine dönüşüyor

KFF'nin 2024 anketine göre yetişkinlerin yaklaşık altıda biri, ayda en az bir kez sağlık bilgisi veya tavsiyesi almak için yapay zeka sohbet botlarını kullanıyor. Bu oran, sağlıkla ilgili komutların artık sınırlı bir teknoloji merakı olmadığını gösteriyor.

Uzmanların uyarısı iki ayrı kanala dayanıyor: yanıtların doğruluğu ve girilen tıbbi bilginin gizliliği. Sağlık kaydı, test sonucu, ilaç listesi veya tanı geçmişi paylaşılacaksa, en azından isim, adres, doğum tarihi ve benzeri tanımlayıcıların kaldırılması öneriliyor.

Siber güvenlik uzmanı George Kamide, büyük dil modellerinin kullanıcı girdileriyle eğitilebildiğini veya ince ayar görebildiğini belirtti. Kamide'ye göre hassas konuşmalar, doğrudan ya da dolaylı biçimde gelecekteki model davranışlarına katkı veren veri kümelerine karışabilir.

İş sırları ve finansal dosyalar

Kurumsal kullanımda risk, kişisel mahremiyetin ötesine geçiyor. Al-Koura, şirket içi raporlar, müşteri listeleri, kaynak kodları ve gizlilik sözleşmesi kapsamındaki bilgilerin sohbet botlarına girilmemesi gerektiğini söyledi.

Tek bir komut bile bazı sektörlerde düzenleyici yükümlülükler veya sözleşme hükümleri açısından sorun yaratabilir. Eğer şirketler onaylı kurumsal yapay zeka araçları ve veri sınıflandırma kuralları kullanırsa, aynı verimlilik kazanımı daha dar bir risk alanında elde edilebilir.

Kentucky Üniversitesi Bilgi Teknolojileri Hizmetleri birimi, maaş bordroları, banka ve yatırım hesabı bilgileri ile kredi kartı verilerinin yapay zeka sohbet botlarıyla paylaşılmamasını öneriyor. Üniversite, genel finansal bilgi için yapay zekadan yararlanılabileceğini, kişisel finans kararlarında ise yetkin bir danışmana başvurmanın daha güvenli olduğunu belirtiyor.

Silme düğmesi riski bitirmiyor

Daha önce paylaşılmış veriler için ilk adım, kullanılan hizmette sohbet geçmişini silmek ve model eğitimi için veri kullanımını kapatmak olabilir. Kamide'ye göre bir kayıt eğitim verisine dahil edildiyse, bunu gerçek anlamda geri almak mümkün olmayabilir.

Casovan, farklı araçların hangi bilgileri hatırladığı ve hangi verileri sakladığı konusunda farklı ayarlara sahip olduğunu vurguladı. Bu nedenle kullanıcıların geçmiş, bellek ve eğitim tercihlerini, kişisel sınırlarına veya çalıştıkları kurumun politikalarına göre düzenlemesi gerekiyor.

Al-Koura'nın önerisi, komut yazarken takma adlar, genelleştirilmiş olaylar ve gereksiz ayrıntılardan arındırılmış metinler kullanmak. Eğer bu yaklaşım yaygınlaşırsa, sohbet botları günlük işlerde kalmaya devam ederken kişisel veri, şirket sırrı ve finansal belge akışı daha kontrollü bir çerçeveye çekilebilir.