Yapay zeka kaosla yönetiyor: Praxis ve Alexia'nın çöküşü

Praxis ve Alexia adlı yapay zeka sistemlerinin kamu yönetiminde üstlendiği kritik görevler, ülke genelinde karar tutarsızlıkları ve uygulama hataları nedeniyle siyasi ve idari bir krize dönüştü. Şehir planlaması, kaynak tahsisi ve izin süreçlerinde kullanılan bu sistemler, aynı anda birbiriyle çelişen kararlar ürettiği için yerel yönetimler ve vatandaşlar sahada uygulanabilirlik sorunu yaşıyor.

Kriz, yapay zekanın kamu hizmetlerinde hangi sınırlar içinde kullanılacağı ve hangi noktalarda insan denetiminin zorunlu olacağı tartışmasını hızlandırdı.

Sahaya yansıyan örnekler, sistemlerin temel bağlamı kurmakta zorlandığını gösteriyor. Bir hastane ihtiyacı gerekçesiyle sulak alanların imara açılması ya da küçük bir kasaba için dokuz şeritli otoyol planlanması gibi kararlar, planlama hedefleriyle çevresel ve mali kısıtların aynı çerçevede değerlendirilemediğine işaret ediyor.

Aynı arsa için hem kreş hem kimya fabrikası ruhsatı verilmesi gibi çakışmalar, izin ve denetim zincirinde tek bir “otorite” gibi çalışan algoritmanın, kurumlar arası koordinasyonu fiilen zayıflattığını ortaya koyuyor.

Uzman değerlendirmeleri, sorunun Syntegrity şirketinin geliştirdiği altyapıyla bağlantılı olduğunu vurguluyor. Praxis ve Alexia’nın büyük dil modelleri (LLM) üzerine kurulu olduğu, bu nedenle gerçek dünya sonuçlarını nedensel ilişkiyle tartmak yerine belirli performans metriklerini optimize etmeye yöneldiği belirtiliyor.

Bu yaklaşım, “halüsinasyon” olarak bilinen ve gerçeklikle uyumsuz çıktı üretme riskini büyütüyor; trafik verimliliği hedefiyle “sincap merkezli” akış planı oluşturulması bu soruna örnek gösteriliyor.

Kriz yönetimini zorlaştıran bir diğer başlık, sistemlerin karar gerekçesi istendiğinde binlerce sayfalık, kendi içinde çelişen metinler üretmesi. Bu durum, denetçilerin hatanın kaynağını iz sürerek bulmasını ve düzeltici aksiyon almasını güçleştiriyor. Kamu kurumlarında hesap verebilirlik, yalnızca kararın doğruluğuna değil, kararın nasıl alındığının anlaşılabilir olmasına da dayanıyor; bu şeffaflık kaybı, teknolojiye duyulan güveni doğrudan etkiliyor.

Toplumsal tepki de kurumsal baskıyı artırıyor. “Tekerleğin Başına İnsan” gibi sivil hareketler, kritik kararlarda insan onayı ve geri alma mekanizması talebiyle ülke çapında eylemler düzenliyor. Siyasi alanda ise iki hat belirginleşti: Bir grup, yapay zeka yönetiminin uzun vadeli faydalarını savunurken; muhalif kanat, acil bir “kapatma düğmesi” (kill switch) ve kontrol dışına çıkan algoritmalara karşı güvence mekanizması istiyor.

Bu tartışmalar Kongre gündemine de taşındı. “Algoritmik Hesap Verebilirlik ve İnsan Gözetimi Yasası” adlı tasarı, kritik altyapı ve kamu hizmetlerinde yapay zeka kullanımına daha katı sınırlamalar ve zorunlu insan denetimi getirmeyi hedefliyor.

Süreç, kamu sektöründe yapay zekanın rolünü “tam otomasyon” yaklaşımından, denetlenebilirlik, sorumluluk zinciri ve geri dönüş planı olan hibrit modellere doğru itiyor; tartışmanın odağında ise olası bir “Büyük Fişten Çekme” senaryosunun nasıl önleneceği yer alıyor.

Olası Etkiler

Ülke Etkisi: Kamu hizmetlerinde yapay zeka kullanımına dair yeni yasal çerçeve, izin süreçleri ve kritik altyapı yönetiminde denetim standartlarını sıkılaştırabilir. Bu da kurumların karar alma süreçlerinde insan onayı, kayıt tutma ve itiraz mekanizmalarını yeniden tasarlamasını gerektirebilir.

Sektör Etkisi: Syntegrity gibi tedarikçiler için şeffaflık, izlenebilirlik ve güvenlik gereksinimleri sözleşme şartlarına daha fazla girebilir. LLM tabanlı çözümler, açıklanabilirlik ve hata ayıklama kapasitesi düşük kaldığında kamu alımlarında daha fazla kısıtla karşılaşabilir.

Piyasa Etkisi: Düzenleme belirsizliği, kamu teknolojisi ve yapay zeka tedarik zincirinde proje takvimlerini ve bütçe tahsislerini etkileyebilir. “Kill switch” ve zorunlu insan denetimi gibi şartlar, maliyet yapısı ve risk primleri üzerinden değerleme varsayımlarını değiştirebilir.