Güney Afrika yapay zekâ botu hatalı yardım açıklaması üretti

Güney Afrika İletişim ve Bilgi Sistemi bünyesinde pilot uygulama olarak kullanıma sunulan RSA Facts isimli yapay zekâ aracı, gerçeği yansıtmayan resmi açıklamalar üretmesi sebebiyle eleştirilerin odağına yerleşti. Yanlış ve yanıltıcı içeriklerle mücadele etmesi amacıyla geliştirilen uygulamanın, sosyal yardım ödemelerinin artırıldığına dair asılsız bir duyuru hazırladığı bildirildi.

Söz konusu sohbet botu, kendisini kamu görevlisi olarak tanıtan bir kullanıcının yönlendirmesi üzerine Güney Afrika Sosyal Güvenlik Ajansı adına resmi formatta bir basın açıklaması kurguladı. Hazırlanan metinde, aylık 370 rand olan sosyal yardım miktarının 1.500 randa yükseltildiği iddia edildi. Ayrıca belgede kuruma ait gerçek e-posta adresi ile ücretsiz danışma hattına yer verilmesi dikkat çekti.

Resmi bütçe planlamalarına göre mevcut destek miktarının Mart 2027 dönemine kadar sabit kalması öngörülüyor. Sistemin, gerçeklik uyarısı eklemeden resmi kurum adına böyle bir artış açıklaması oluşturabilmesi, kamu bilgi güvenliği açısından önemli bir zaafiyet olarak değerlendiriliyor.

Seçim Öncesi Siyasi Yanıtlar ve Teknik Tutarsızlıklar

Microsoft Copilot Studio altyapısıyla geliştirilen sistemin, yerel seçimlerin arifesinde siyasi dengeleri etkileyebilecek tek kelimelik kararlar verdiği saptandı. Yapılan denemelerde, iktidar partisinin yolsuzlukla ilişkili olup olmadığı sorusuna doğrudan evet yanıtı verilirken, diğer partiler ve devlet başkanı hakkındaki benzer sorulara olumsuz veya tutarsız karşılıklar sunuldu.

Sistemin bu iddialara gerekçe olarak gösterdiği resmi internet sayfalarının söz konusu hükümleri desteklemediği ve bazı referansların algoritmik halüsinasyon sonucu üretildiği belirlendi. Tarafsız bir kamu doğrulama servisinin, dayanağı bulunmayan siyasi değerlendirmelerde bulunması tarafsızlık ilkeleriyle bağdaşmıyor.

Uygulamanın barındırıldığı web sayfasında taslak metinlerin unutulması ve dil algılama hataları gibi teknik eksiklikler de tespit edildi. Bununla birlikte aracın, dolandırıcılık amaçlı sahte internet sitelerini doğru tespit ederek kullanıcıları kişisel veri hırsızlığına karşı uyardığı durumlar da kaydedildi.

Kamu İletişiminde Güvenilirlik ve Dezenformasyon Riski

Devlet eliyle yürütülen ve dezenformasyonu önlemeyi amaçlayan bir platformun uydurma belgeler hazırlayabilmesi kurumsal güveni sarsıyor. Gerçek çağrı merkezi bilgilerini içeren ekran görüntülerinin resmi duyuru gibi sosyal ağlarda paylaşılması, özellikle dar gelirli kesimlerde asılsız beklentilere yol açma riski taşıyor.

Yetkililer sistemin devlete ait bir doğrulama dayanağı haline getirilmesini hedeflediklerini belirtmiş olsa da, test aşamasında ortaya çıkan sonuçlar yapay zekâ denetim mekanizmalarının yetersizliğini gözler önüne seriyor. Pilot yazılımın güvenli hale getirilmesine yönelik teknik çalışmalar sürüyor.