Yapay zeka araştırmacıları kontrol kaybı ve varoluşsal risk uyarısında bulundu

Yapay zeka sektöründeki önde gelen araştırmacılar, süper zeka sistemlerinin önümüzdeki on yıl içinde insanlık için varoluşsal bir tehdit oluşturma ihtimalini yüzde 10'un üzerinde görüyor. Sektördeki uzmanlar, kendi kendini geliştirebilen sistemlerin insan denetiminden çıkma riskine karşı acil uyarıda bulunuyor.

Sektördeki güvenlik endişeleri, şirket içi istifaları ve kamuoyu açıklamalarını tetikledi. Araştırmacılar, şirketlerin ticari rekabet ve Çin ile olan teknolojik yarış nedeniyle güvenlik protokollerinden taviz verdiğini savunuyor. Mevcut geliştirme süreçlerinde, süper zekanın uyum sorununu çözecek somut bir planın bulunmadığı belirtiliyor.

Uzmanlar, hükümet müdahalesi ve sektör genelinde koordineli bir yavaşlama olmadan bu sürecin güvenli bir şekilde yönetilemeyeceği görüşünde birleşiyor. Binlerce araştırmacı, kendi kendini geliştiren sistemlerin kontrolünün kaybedilmesine karşı uluslararası düzeyde düzenleme çağrısı yapan bir bildiriye imza attı. Siber güvenlik tehditleri ve sistemlerin insan komutlarını reddetme potansiyeli, kurumsal risk yönetimi açısından kritik bir başlık haline geldi.