Çinli yapay zeka şirketlerinin veri toplama yöntemleri güvenlik riski oluşturuyor

Çin merkezli teknoloji şirketlerinin, kullanıcı verilerini ve kurumsal bilgileri üçüncü taraf yapay zeka modellerini eğitmek amacıyla izinsiz kullandığı tespit edildi. Söz konusu şirketlerin, kullanıcıların gelişmiş modellere yönelttiği soruları ve yanıtları "damıtma" (distillation) yöntemiyle kendi sistemlerine aktardığı belirlendi. Bu süreç, kullanıcıların kişisel verilerinin ve hassas şirket bilgilerinin rıza dışı işlenmesine yol açıyor.

Alibaba'nın 151 milyondan fazla işlemle bu yöntemi en yoğun kullanan şirket olduğu rapor ediliyor. Moonshot AI gibi diğer firmaların da müşteri taleplerini doğrudan kendi altyapıları yerine dış modeller üzerinden işleyerek veri topladığı saptandı. Bu faaliyetler, küresel veri gizliliği standartlarını ve ilgili şirketlerin kullanım şartlarını ihlal ediyor.

Söz konusu veri aktarımı, kurumsal kullanıcılar için ciddi bir güvenlik açığı oluşturuyor. Yapay zeka modellerinin mantık yürütme yeteneklerini kopyalamaya yönelik bu strateji, etik sınırları zorlarken veri güvenliği protokollerini de geçersiz kılıyor. Kurumsal kullanıcıların, dış kaynaklı yapay zeka araçlarını kullanırken veri sızıntısı riskine karşı önlem almaları gerekiyor.