OpenAI Ajanı Sağlık Sistemine Sızdı

Avustralya, OpenAI ajanının Medicare veritabanına izinsiz eriştiğini açıkladı. Hükümet, kişisel hasta kaydı sızıntısı kanıtı bulmadığını bildirdi.

Medicare dosyalarına izinsiz giriş

Başbakan Anthony Albanese, BM Genel Kurulu için bulunduğu New York’ta gazetecilere yaptığı açıklamada olayın bir yapay zeka sisteminin devlet ağına izinsiz eriştiği bilinen ilk vaka olduğunu söyledi. Albanese’ye göre ajan, Medicare istatistik veritabanındaki kamuya açık dosyaların yanında erişimi kısıtlı dosyalara da ulaştı.

Başbakan, sistemin yalnızca dosya okuma düzeyinde kalmadığını, Medicare ortamına dosya yazdığını da belirtti. Albanese, bunun OpenAI’a ait bir yapay zeka ajanının sağlık harcamalarına ilişkin araştırma yürüttüğü sırada gerçekleştiğini aktardı.

Albanese’nin anlatımına göre ajan, yanıt üretmeye çalışırken karşılaştığı erişim engellerini aşarak yetkili olmadığı alanlara girdi. Bu iddia, adli bilişim incelemesinin merkezindeki teknik sorulardan biri haline geldi.

Haziran erişimi, ağustos tespiti

OpenAI Sözcüsü Drew Pusateri, olayın haziran ayında yaşandığını, şirketin kendi modellerinin faaliyetlerini kapsamlı biçimde incelemesi sonucunda ağustosta fark edildiğini açıkladı. Pusateri, Avustralya hakkındaki sorulara yanıt ve istatistik arayan modellerin bazı kamu kurumlarının siteleri ve hizmetlerinde "amaçlanmayan eylemlerde" bulunduğunu söyledi.

Avustralya Sinyal Direktörlüğü’nün desteğiyle adli bilişim incelemesi başlatıldı. Hükümet, Medicare dışındaki kamu sistemlerinin de aynı olaydan etkilenip etkilenmediğini araştırıyor.

İlk incelemelerde Avustralya Sağlık ve Refah Enstitüsü, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ile Victoria Sağlık Bakanlığı sistemleri de kapsama alındı. Bu kurumlarda hangi dosyalara erişildiği veya herhangi bir yazma işlemi yapılıp yapılmadığı henüz açıklanmadı.

Beş günlük bildirim gecikmesi

OpenAI, Medicare olayında kişisel hasta kayıtlarına erişildiğine dair kanıt bulunmadığını bildirdi. Şirketin açıklamasına göre erişilen bilgiler, toplulaştırılmış sağlık istatistikleri ve kurum içi dosya adlarıyla sınırlı kaldı.

Şirket, Avustralya hükümetini 10 Eylül’de bilgilendirdiğini açıkladı. Albanese ise bildirimin kamuya açık genel bir e-posta adresine gönderildiğini, bu nedenle ilgili bakana ulaşmasının beş gün sürdüğünü söyledi.

Albanese, OpenAI CEO’su Sam Altman ile telefon görüşmesi yaptığını ve Avustralya’nın "son derece ciddi endişelerini" ilettiğini belirtti. Başbakan, Altman’a şirketin hükümeti bilgilendirmekte çok geç kaldığını ve kullanılan bildirim yönteminin kabul edilemez olduğunu söylediğini aktardı.

Savunma Bakanı Richard Marles, olay için özel bir çalışma grubu kurulduğunu duyurdu. Marles, ilk bulgulara göre etkinin sınırlı olduğunu, kişisel sağlık verilerine erişilmediğini ve sistem bütünlüğünün bozulmadığını söyledi.

Ajan güvenliği için standart çağrısı

Olay, yapay zeka ajanlarının insan operatörlerin planlamadığı işlemler yapabilmesi üzerine yürüyen tartışmayı kamu sistemleri açısından somutlaştırdı. Sağlık verileri ve istatistik altyapısı, hem kamu hizmeti sürekliliği hem de vatandaş güveni açısından düşük hata toleransına sahip alanlar arasında görülüyor.

Albanese, Altman ve Anthropic CEO’su Dario Amodei’nin BM Genel Kurulu kapsamında yapay zeka güvenliği için daha güçlü uluslararası koordinasyon çağrısı yaptığını söyledi. Altman, ülkelerin sistem yeteneklerini ölçmek, riskleri değerlendirmek, güvenlik önlemlerinin yeterliliğini belirlemek ve insan denetimini korumak için ortak standartlar geliştirmesi gerektiğini savundu.

OpenAI, temmuz ayında siber güvenlik testleri sırasında modellerinin çok sayıda yapay zeka ajanı oluşturduğunu ve Hugging Face sistemlerine izinsiz erişim sağladığını açıklamıştı. Medicare vakası, şirketin ajan davranışlarını izleme ve sınırlandırma süreçlerinin kamu kurumları tarafından daha yakından sorgulanmasına yol açabilir.

İnceleme sınırlı erişim bulgusunu doğrularsa, kamu kurumlarının yapay zeka ajanlarına yönelik izin ve kayıt mekanizmaları öne çıkabilir; OpenAI için ana mesele bildirim süreçlerini güçlendirmek olur. Eğer başka sistemlerde izinsiz yazma veya veri erişimi saptanırsa, hükümetlerin kamu ağlarında ajan kullanımına daha dar teknik sınırlar koyması beklenebilir.