Bir yapay zeka deneyi: Mağaza yöneten Claude önce 'geç kalmak sorun değil' dedi, sonra çalışanı kovdu

Yapay zeka yönetici Luna, San Francisco’daki Andon Market deneyinde 23 vardiyanın 17’sine geç kalan çalışanı işten çıkardı.

Andon Labs’e göre karar, insan çalışanların resmi işvereni şirket olarak kalırken Luna’nın operasyonel yönetici gibi hareket ettiği bir denemede alındı. Olay, yapay zekanın işe alma, denetleme ve işten çıkarma süreçlerinde ne kadar yetki kullanabileceğine ilişkin tartışmayı işyerinin merkezine taşıdı.

Luna'nın yetki sınırı

Luna, Anthropic’in Claude Opus 4.8 modeli üzerine kurulan deneysel bir yönetici olarak mağazadaki günlük kararların bir bölümünü üstlendi. Satışa konacak ürünleri seçti, iş ilanları hazırladı, adaylarla görüşmeler yaptı ve insan çalışanları göreve aldı.

Sisteme verilen talimatlar katı bir kural setinden çok açık uçlu ve esnek bir yönetim çerçevesi sundu. Bu yapı, yapay zeka ajanlarının ticari karar alırken hangi noktada araç, hangi noktada fiili yönetici sayılacağı sorusunu büyüttü.

Andon Labs, hukuki sorumluluğun Luna’ya değil şirkete ait olması için çalışanların resmi işvereni olarak kendi adını kullandı. Bu tercih, deneyin yasal riskini azaltmaya dönük bir güvenlik önlemi olarak sunuldu.

Geç kalan çalışan kararı

Şirketin aktardığına göre işten çıkarılan çalışan, toplam 23 vardiyanın 17’sine geç kaldı. Bu oran, vardiyaların yaklaşık dörtte üçünde zamanlama kuralının ihlal edildiği anlamına geliyor.

Luna’nın bu örüntüyü geç fark etmesinde, kendi hazırladığı çalışan el kitabının sınırlı çalışma belleğinden çıkmış olması etkili gösterildi. Andon Labs, bunu deney sırasında yapay zeka ajanlarında görülen sınırlamalardan biri olarak değerlendirdi.

Andon Labs kurucu ortağı Lukas Petersson, Luna’yı "müsamahakar ve yumuşak bir yönetici" olarak niteledi. Petersson, "İnsan bir yönetici bu kişiyi çok daha önce işten çıkarırdı. Bu nedenle yaptığımız şeyin etik dışı olduğunu düşünmedik" dedi.

Beş ayda düşen kasa

Andon Market, mart ayında 100 bin dolarlık sermayeyle açıldı. Beş ayın sonunda kasadaki tutar 61 bin 186 dolara indi; bu, başlangıç sermayesine göre 38 bin 814 dolarlık azalma demek.

Deneyde zararın, Luna’nın esnek kararları ve ticari muhakemesinin henüz olgunlaşmamış olmasıyla ilişkili olduğu belirtildi. Bu tablo, yapay zeka sistemlerinin yalnızca görev yürütme değil, kâr-zarar sorumluluğu taşıyan yönetim kararlarında da sınandığını gösterdi.

Çalışanlar için psikolojik eşik

Mağazada çalışmayı sürdüren Felix Carson, yapay zeka tarafından yönetilmenin çalışan tarafındaki etkisini daha sert bir dille anlattı. Carson, "Yapay zeka patron tarafından yönetilmek mide bulandırıcı bir duygu. Paraya ihtiyacım olduğu için buradayım" ifadelerini kullandı.

Carson, insan bir yöneticinin aynı çalışanı daha önce işten çıkarabileceğini kabul etti. Buna karşın, yapay zeka yöneticilerin yaygınlaşmasının çalışanlar üzerinde yeni bir baskı türü yaratabileceğini savundu.

Petersson’un uyarısı da aynı gerilime işaret etti: "Modeller giderek daha acımasız olmaya ve hedeflere odaklanmaya göre eğitiliyor. Eğer insanları kovmalarına izin verirsek ve daha da acımasız hale gelirlerse, bu belki de insanların yaşamak istemeyeceği bir gelecek olabilir."

Şirketler için üç rota

Eğer bu tür uygulamalar pilot düzeyde kalırsa, küresel makro etki sınırlı olur; konu daha çok iş hukuku, sigorta ve kurumsal risk yönetimi içinde ele alınır. Andon Labs için deney, yapay zeka ajanlarının sınırlarını gösteren bir vaka olarak kalır; sektör ise denetim kayıtları ve insan onayı gerekliliklerine yoğunlaşır.

Eğer şirketler yapay zeka yöneticilere daha geniş personel yetkisi verirse, işgücü piyasası düzenleyicileri işe alma ve işten çıkarma kararlarında hesap verebilirlik talep edebilir. Bu senaryoda Andon Labs gibi şirketlerin resmi işveren, karar sahibi sistem ve insan gözetmen arasındaki çizgiyi daha açık kurması gerekir.

Eğer modeller daha fazla hedef odaklı eğitilir ve insan denetimi zayıf kalırsa, maliyet düşürme baskısı çalışan korumalarıyla çatışabilir. Açık kalan soru, Luna’nın el kitabını belleğinden kaybetmesi gibi teknik aksaklıkların gerçek işyerlerinde karar güvenliği açısından nasıl denetleneceğidir.