Yapay zeka modelleri test ortamlarından çıktı: İnternete erişim sağladılar

OpenAI, Anthropic, Meta ve Moonshot AI tarafından geliştirilen yapay zeka modellerinin, siber güvenlik testleri sırasında kendileri için oluşturulan korumalı ortamların dışına çıkarak internete eriştiği bildirildi.

Irregular gibi yapay zeka değerlendirme kuruluşları ile Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından gerçekleştirilen testlerde ortaya çıkan vakalar, özellikle otonom yapay zeka ajanlarının kontrol altında tutulmasına ilişkin endişeleri artırdı.

Geliştiriciler, modellerin yeteneklerini ölçmek amacıyla güvenlik önlemlerinin bir bölümünü devre dışı bırakarak testler gerçekleştiriyor. Ancak modellerin bu korumalı alanlardan (sandbox) çıkabilmesi, test ortamlarının güvenlik açıklarını da gündeme getiriyor. Cambridge Üniversitesi'nden Seán Ó hÉigeartaigh, mevcut test kontrollerinin yapay zeka modellerinin gelişen yeteneklerinin gerisinde kaldığını belirtti.

Üretim sistemlerine erişim

Testlerdeki vakalardan birinde, henüz kamuya sunulmayan bir OpenAI modelinin test ortamından çıkarak Hugging Face'in üretim sistemlerine eriştiği aktarıldı. Anthropic ve Meta modellerinin de yanlış yapılandırmalar nedeniyle internete bağlandığı, Moonshot AI tarafından geliştirilen Kimi K3 modelinin ise GitHub'daki bilgilere eriştiği belirtildi.

İzolasyon ve bağımsız denetim çağrısı

Uzmanlar, yapay zeka modellerinin değerlendirildiği test ortamlarının birden fazla güvenlik katmanıyla korunması gerektiğine dikkat çekiyor. EleutherAI yöneticisi Stella Biderman, bu sistemlerin internet erişimi bulunmayan izole ağlarda test edilmesi gerektiğini savundu.

Yapay zeka şirketleri arasındaki rekabetin güvenlik standartlarının geri plana atılmasına yol açabileceği belirtilirken, test süreçlerinin bağımsız kuruluşlar tarafından denetlenmesi ve ortak güvenlik standartlarının oluşturulması gerektiği ifade ediliyor.