Uzman isimden yapay zekada ‘Çernobil’ senaryosu uyarısı

Geoffrey Hinton, yapay zeka kaynaklı saldırıların elektrik şebekeleri ve finans sisteminde geniş çaplı kesintilere yol açabileceği uyarısında bulundu.

Nobel ödüllü bilgisayar bilimcisinin gündeme getirdiği senaryolar, teknolojinin günlük yaşamı destekleyen altyapılarda yaratabileceği tehlikelere odaklanıyor. Hinton, elektrik üretimini aksatan bir saldırıyı ve finans sisteminin bir hafta boyunca işlemesini engelleyen bir olayı olası örnekler arasında saydı.

Bu değerlendirmeler, gerçekleşmiş bir kesintinin açıklaması değil, Hinton'ın geleceğe ilişkin uyarıları. Bilimci, yapay zekanın yararlı sonuçlar doğurabileceğine inandığını da belirterek teknolojinin geliştirilmesine ilişkin tereddüdünü şu sözlerle dile getirdi: "Belki de onu hiç geliştirmememiz daha iyi olurdu".

Çernobil benzetmesinin odağında kritik altyapı var

Hinton, kamuoyunun tehlikeyi ciddiye almasını sağlayabilecek bir olay için Çernobil benzetmesini kullandı. Ancak bu benzetmeyle nükleer bir kazayı değil, yapay zekayla bağlantılı geniş ölçekli bir altyapı kesintisini kastettiğini anlattı.

Elektrik tarafındaki örneği, üretim sistemini hedef alan yapay zeka destekli bir saldırıydı. Finans alanında ise sistemin geçici olarak çalışamaz hale gelmesini tarif etti; böylece uyarısını yalnızca modellerin verdiği yanıtlarla sınırlamayıp hizmetlerin sürekliliğine taşıdı.

Hinton'ın verdiği bir haftalık süre, finans senaryosunun kapsamını tarif ediyor; gözlenmiş bir olayın süresini ya da hesaplanmış bir olasılığı göstermiyor. Elektrik ve finans örnekleri de aynı olayın iki sonucu olarak değil, farklı olası kesinti biçimleri olarak dile getirildi.

Bu ayrım, uyarının nasıl okunması gerektiği açısından önemli: Hinton belirli bir elektrik işletmesinin veya finans kuruluşunun saldırıya uğradığını söylemiyor. Bir sistem arızasını yapay zekaya bağlayan teknik bulgular sunmak yerine, teknolojinin kullanılabileceği tehlikeli durumları tarif ediyor.

Model yarışı Hinton'ın eleştirilerinin merkezinde

Hinton, daha güçlü modelleri kullanıma sunan büyük yapay zeka şirketlerinin rekabetini de eleştirdi. Onun değerlendirmesine göre üstünlük ve pazar payı arayışı, şirket yöneticilerinin risk alma yaklaşımıyla birlikte ele alınmalı.

Bu görüş, şirketlerin davranışlarına ilişkin Hinton'ın değerlendirmesi niteliğinde; belirli bir modelin elektrik veya finans altyapısına zarar verdiğinin kanıtı değil. Eleştirisinin merkezinde, teknolojik kapasiteyi artırma çabasıyla bu kapasitenin yaratabileceği tehlikeler arasındaki ilişki bulunuyor.

Yapay sinir ağları üzerine araştırmalarıyla tanınan Hinton, 2023'te Google'daki görevinden ayrılmıştı. Ayrılma gerekçesini, yapay zekanın riskleri konusunda daha serbest konuşabilmek olarak açıklamış; sistemlerin kontrol kazanma yönündeki davranışlarının tehlikeye dönüşebileceği uyarısını yapmıştı.

Hinton buna rağmen yapay zekanın yalnızca olumsuz sonuçlar üreteceğini savunmuyor. Teknolojinin "harika bir gelecek" sağlayabileceğine inandığını belirtmesi, açıklamalarındaki temel gerilimi ortaya koyuyor: yararlı kullanım ihtimaliyle kontrol ve güvenlik kaygıları aynı değerlendirmede yer alıyor.

Kesinti senaryolarında ölçek belirleyici olacak

Hinton'ın tarif ettiği türden bir elektrik kesintisi gerçekleşirse, doğrudan etki hedef alınan üretim sistemi üzerinde olacaktır. Daha geniş ekonomik sonuçlar ise kesintinin süresine, kapsadığı bölgeye ve etkilenen hizmetlere bağlı olacaktır; bu örnek tek başına küresel bir etki hesabı sunmuyor.

Finans sisteminin işlemesini engelleyen bir olayda da aynı ayrım geçerli: kısa süreli bir aksama ile Hinton'ın tarif ettiği bir haftalık duruş aynı senaryo değil. Belirli bir şirketin veya sektörün ne ölçüde etkileneceğini değerlendirmek için hedefin, saldırı yönteminin ve kesintinin kapsamının bilinmesi gerekir.

Hinton'ın uyarısında açık kalan temel nokta, tarif edilen olaylara hangi teknik koşulların yol açabileceği. Riskin somutlaştırılması, genel bir felaket benzetmesinden ziyade belirli sistemlerdeki açıkların, saldırı kapasitesinin ve koruma önlemlerinin ortaya konmasına bağlı.