Sağlıkta yapay zekâ uygulamalarında şeffaflık krizi büyüyor

Türkiye’de hastanelerde yapay zekâ destekli uygulamaların kullanımı artarken, bu sistemlerin nasıl çalıştığı ve hangi verilerle eğitildiğine ilişkin şeffaflık soruları da daha görünür hale geliyor. Türk Tabipleri Birliği (TTB) Sağlık ve Politika Çalışma Grubu üyesi Dr. Ahmet Karer Yurtdaş, sahada kullanılan çözümlerin önemli bir bölümünün yurt dışından temin edildiğini ve bu nedenle “kapalı kutu” niteliği taşıdığını ifade ediyor.

“Karar mekanizması doğrulanamıyor” endişesi Söz konusu tablo, klinik karar alma süreçlerinde hesap verebilirlik ve denetim mekanizmaları açısından bir yönetişim problemi olarak değerlendiriliyor. Dr. Yurtdaş’a göre, bu sistemlerin hangi veri setleriyle eğitildiği bilinmiyor; daha da önemlisi, eğitim verilerinden yola çıkarak karar mekanizmasını nasıl kurduklarına dair yeterli şeffaflık sağlanamıyor. Bu durum, hekimlerin, kurumların ve düzenleyici otoritelerin sistem çıktılarının dayanaklarını bağımsız biçimde doğrulamasını zorlaştırıyor.

Kritik alanlarda “açıklanamazlık” riski Tanı koyma, triyaj, görüntü analizi ve risk sınıflandırması gibi kritik başlıklarda kullanılan bir aracın açıklanamaz olması; olası hatalı kararların kaynağını tespit etmeyi ve sorumluluğun nasıl paylaşılacağını belirlemeyi güçleştirebiliyor. Hasta güvenliği açısından da, karar destek çıktılarının hangi koşullarda nasıl yorumlanacağı ve hatalı sonuçlar karşısında izlenecek klinik süreçlerin netleşmesi gerekliliği öne çıkıyor.

Türkiye’de entegrasyon ve standartlar net değil Türkiye’ye özgü ikinci başlık, kamu düzeyinde entegrasyon ve standartların henüz belirginleşmemiş olması. Dr. Yurtdaş, Sağlık Bakanlığı bünyesinde entegre bir yapay zekâ sisteminden söz etmenin şu aşamada mümkün olmadığını; mevcut kullanımın daha çok radyoloji, patoloji ve genetik gibi alanlarda, dışarıdan satın alınan uygulamalarla sınırlı kaldığını belirtiyor.

Bu parçalı yapı, kurumlar arasında farklı tedarik ve kullanım pratiklerinin oluşmasına yol açabiliyor. Veri yönetişimi, siber güvenlik, klinik validasyon ve kalite güvencesi süreçlerinde ortak standartların eksikliği ise denetim yükünü artırma riski taşıyor.

Küresel tartışma: Performans ve temsil gücü Küresel ölçekte de sağlıkta yapay zekâ, özellikle görüntüleme ve karar destek sistemlerinde hızla yaygınlaşıyor. Ancak yaygınlaşma; güvenilirlik, şeffaflık ve denetim tartışmalarını beraberinde getiriyor. Modellerin farklı nüfus gruplarında farklı performans gösterebilmesi, eğitim verisinin temsil gücü ve klinik ortama uyarlanma biçimi, düzenleyici çerçevelerin odaklandığı alanlar arasında yer alıyor.

Ülke etkisi: Şeffaflık ve denetim tartışması, sağlıkta dijitalleşme politikalarında veri yönetişimi ve klinik validasyon standartlarının yeniden ele alınmasını gündeme getirebilir. Kamu düzeyindeki entegrasyon eksikliği, kurumlar arası uygulama farklılıklarını ve denetim ihtiyacını artırabilir.

Sektör etkisi: Özel sağlık kuruluşlarının tedarik ettiği çözümlerde, sözleşmelerde açıklanabilirlik, denetim hakkı ve veri işleme şartları gibi başlıkların daha kritik hale gelmesi beklenebilir. Ürün seçimi; klinik performans kanıtı ve uyumluluk gereklilikleri üzerinden şekillenebilir.

Piyasa etkisi: Belirsizlikler, sağlık teknolojileri yatırımlarında düzenleyici risk primi ve uyum maliyetleri üzerinden fiyatlamayı etkileyebilir. Yurt dışına bağımlı tedarik yapısı, kur ve lisans maliyetleri aracılığıyla bütçe planlamalarına yansıyabilir.