OpenAI, personel uyarılarının ardından güvenlik hamlesi planlıyor

OpenAI, çalışanların geniş iç erişimin hassas yapay zeka araştırmalarını dışarıya sızdırabileceği yönündeki uyarılarının ardından yeni bir güvenlik revizyonu planlıyor.

Şirket, Pazartesi günü yayınladığı bir blog yazısında yeni bir güvenlik çalışması turunu duyurdu. Faaliyetlerine aşina olan beş kişi, ChatGPT'nin 2022'deki kullanıma sunulmasından öncesine dayanan çalışan uyarılarını ve endişelerin üst yönetime ve direktörlere ulaştığını anlattı.

OpenAI sözcüsü Elana Widmann, şirketin uygunsuz hareket eden çalışanlara, suçlu bilgisayar korsanlarına ve devlet destekli saldırganlara karşı korunmaya önemli miktarda kaynak ayırdığını söyledi. Widmann, son müdahaleleri, güvenlik programının tehditleri tespit edip ele aldığının bir kanıtı olarak nitelendirdi.

Mühendislik kaynakları güvenliğe kayıyor

Konuya aşina iki kişiye göre, ürün geliştirmeden sorumlu yönetici Thibault Sottiaux, son zamanlarda dahili sistemleri güçlendirme çabasının denetimini üstlendi. Bir kişi, Sottiaux'nun Ağustos ayında üretim mühendisliği iş gücünün %25'ini güvenlik altyapısına yönlendirdiğini söyledi.

Bu tahsisat, mühendislik kapasitesini araştırma hızı ile koruma arasındaki tartışmanın merkezine oturtuyor. Endişelerini dile getiren bazı çalışanlar, söz konusu beş kişiye göre yöneticilerin Google ve Anthropic ile rekabete öncelik verdiği sonucuna vardı; bu değerlendirme çalışanların kendi yorumunu temsil etmekte olup kanıtlanmış bir yönetim motivasyonunu göstermemektedir.

Gerilim tek bir şirketle sınırlı değil. OpenAI ve Anthropic, bilim insanlarını işe almak ve keşifleri teşvik etmek amacıyla bulguları paylaşmaya dayalı akademik gelenekten yararlanarak iş birliğine dayalı araştırma ortamları geliştirdi; daha sıkı kısıtlamalar bu yaklaşımı karmaşıklaştırabilir.

Erişim kontrolleri çelişkili ifadelerle karşı karşıya

Beş kişi, erişimi olan çalışanların görevlerinin ötesindeki projeleri incelemesine olanak tanıyan ortak bir kod deposunu tarif etti. Ayrıca GitHub ve Slack'teki araştırma kayıtlarının, birisinin değerli bilgilere ne kadar kolay ulaşabileceği konusunda endişeler yarattığını belirttiler.

OpenAI bu maruz kalmanın kapsamına itiraz ederek, özellikle hassas projelerin kısıtlayıcı izinlerle korunan ayrı depolarda bulunduğunu söyledi. Ortak deponun, model davranışını yöneten sayısal parametreler olan model ağırlıklarını içermediğini ve tüm kod tabanını barındırmadığını belirtti.

Dahili uygulamalara aşina olan üç kişi, çalışanların test ortamlarını değiştirmesinden sonra da dahil olmak üzere, araştırma araçlarındaki güvenlik kontrollerinin önceden düzensiz olduğunu söyledi. OpenAI ise Ekim 2024'te göreve başlayan bilgi güvenliği baş sorumlusu Dane Stuckey yönetiminde dahili araçları artık düzenli olarak gözden geçirdiğini bildirdi.

Ses kaydı suçlaması içeriden tehdit denetimini artırıyor

Adalet Bakanlığı, 13 Ekim'de federal yetkililerin OpenAI mühendisi Abdulrahman Alfozan'ı tutukladığını ve yönetici toplantıları için kullanılan bir odada gizli bir ses kayıt cihazı bulundurduğu iddiasıyla suçladığını duyurdu. Bir mahkeme belgesinde ayrıca Alfozan'ın yöneticilerin Suudi Arabistan seyahatlerine ve Suudi bakanlarla yapılan toplantılara ilişkin dahili belgeleri aradığı iddia edildi.

Söz konusu mahkeme belgesine göre Alfozan, kendisini bir yapay zeka girişimine dahil etmek isteyen bir Suudi kraliyet mensubuyla temas halindeydi. Avukatları sunulan haber raporu için bir yanıt vermedi ve materyal kayıt cihazı iddiasına ilişkin nihai bir yargı kararı içermiyor.

Dış araştırmacılar da ayrı olarak dijital erişim aksaklıklarını tanımladı. Siber güvenlik şirketi Hacktron AI, araştırmacılarının Temmuz ayında çalışanların ChatGPT hesaplarını ele geçirmek ve ortak depo da dahil olmak üzere dahili kaynaklara ulaşmak için bir Anthropic modeli kullandığını söyledi; Widmann, OpenAI'ın kendilerine teşekkür ettiğini ve risklerin tekrarlanmasını azaltmak için harekete geçtiğini bildirdi.

Bu anlatımlar belirli bir çözümsüz konuyu geride bırakıyor: yeni kısıtlamaların çalışanların ve araştırmacıların tanımladığı erişim yollarını ne ölçüde ele aldığı. OpenAI ek güvenlik çalışmaları planladığını belirtti, ancak sağlanan materyal ne bir tamamlanma takvimi ne de etkililiğine ilişkin bağımsız bir değerlendirme sunuyor.

Daha güçlü kontroller, meşru iş birliğini engellemeden yetkisiz erişimi sınırlarsa OpenAI, geliştirme kapasitesini korurken araştırmaları da güvenceye alabilir. Kısıtlamalar deneyleri yavaşlatırsa şirket ve rakip laboratuvarlar, teknolojiyi korumak ile onu geliştirmek arasında daha zor bir dengeyle karşı karşıya kalacak ve bu durum yapay zeka kabiliyetlerini elde tutmaya yönelik ulusal çabaları etkileyecektir.