Ajan değişiklikleri görev sonuçlarının %17’sini değiştirdi

De Wang ve Peng Qi, 21 Ekim'de yayımlanan bir arXiv ön baskısında, bir yapay zeka ajanındaki geçici değişikliklerin görev sonuçlarının %17'sini çalıştırmalar arasındaki normal varyasyonun ötesinde değiştirdiğini bildirdi.

Sonuç önem taşıyor; zira yazarlar, bir LLM hakeminin test edilen 37 ortamın 9'unda sessizce başarısız olmasının ardından, gözetimsiz kendi kendini geliştirmenin ölçülen iki güvenlik önlemine dayanması gerektiğini savunuyor.

Makale, yürütme izlerini inceleyebilen, yazılım değişiklikleri türetebilen, otomatik onay arayabilen ve insan yazar olmadan güncellemeler yayınlayabilen ajan platformlarını ele alıyor. Yazarlar, bu döngünün ne zaman kendi kendine çalışabileceğine karar vermek için doğrulayıcı gücü ve kurtarılabilirliğin kullanılmasını öneriyor.

Makalede σ ile gösterilen doğrulayıcı gücü, mevcut bir doğrulayıcının güvenilir bir referans doğrulayıcıyla ne kadar uyuştuğunu ölçüyor. Kurtarılabilirlik ise, geri almanın yeni bir onaya ihtiyaç duyup duymadığı ve önceki davranışın ne kadarının geri yüklendiği de dahil olmak üzere, kötü bir değişikliğin ne kadar ucuza tersine çevrilebileceğini ölçüyor.

“Bir adım yalnızca her ikisi de yeterliyse gözetimsiz çalışmalıdır” diye yazdı yazarlar özette. Kendi platformlarında bu kuralın istem, araç ve beceri düzenlemelerinin insan müdahalesi olmadan çalışmasına izin verdiğini, model ağırlığı güncellemelerinin ise hâlâ insan onayı gerektirdiğini belirttiler.

Araştırmacılar, kuralı uygulayan bir platform kurduklarını ve bunu iki ortamda test ettiklerini söyledi: platformun kendi onay kapısı ve τ2-bench ajan kıyaslamasındaki kontrollü deneyler. Önerilen değişiklikleri değerlendirmek için kullanılan büyük dil modeli anlamına gelen LLM hakemi, kendisine ne gösterildiğine bakılmaksızın bazen aynı puanı verdi.

Özete göre bu başarısızlık 37 ortamın 9'unda meydana geldi ve bir hata raporu üretmedi. Yazarlar, “bir doğrulayıcı her şeyi onaylarken sağlıklı görünebilir” diye yazdı ve iki basit testin bu hatayı yakaladığını belirtti.

Kurtarılabilirlik sonuçları ayrı bir kısıtlamaya işaret ediyor. Ön baskıya göre, kayıtlı bir kopyayı geri yüklemek ajanı orijinal davranışına döndürürken, yeniden oluşturulan bir geri alma işlemi bunu sağlayamadı. Yazarlar, bunun yalnızca eski sürümü saklanan değişikliklerin insan olmadan geri alınabileceği anlamına geldiğini söyledi.

Makalenin kısıtları önem taşıyor. arXiv yayını bir ön baskı niteliğinde ve özet, sektör genelindeki bir uygulamadan ziyade yazarların kendi platformundan ve kıyaslama deneylerinden elde edilen sonuçları açıklıyor.

Kaynak sayfası, altı sayfalık makale ve ekinin NeurIPS 2026 Workshop on AgenticOS etkinliğinde kabul edildiğini belirtiyor ve konuları yapay zeka, hesaplama ve dil ile yazılım mühendisliği olarak listeliyor.

Kaynak: arXiv cs.AI ön baskısı, 21 Ekim 2026