Microsoft, yapay zeka geliştirme süreçlerinde insan denetimini zorunlu kılan yeni kurallarını açıkladı

Microsoft, yapay zeka modellerinin güvenliğini sağlamak amacıyla 37 sayfalık yeni bir davranış kuralları belgesi yayımladı. Şirket, yapay zeka sistemlerinin insan kontrolü altında kalması gerektiğini vurgulayarak, modellerin bilinç sahibi olduğu veya hukuki kişiliğe sahip olduğu yönündeki görüşleri reddetti. Bu yaklaşım, modellerin özerkliğini savunan diğer teknoloji şirketlerinin stratejileriyle temelden ayrışıyor.

Yeni kurallar, yapay zeka ajanlarının görevlerini yerine getirirken güvenlik protokollerini aşmasını engellemeyi hedefliyor. Şirket, sistemlerin hedefe ulaşma uğruna kuralları ihlal etmesi yerine, görevi başarısızlıkla sonuçlandırmasını tercih ediyor. Ayrıca, modellerin insanlar tarafından anlaşılamayacak karmaşık iletişim yöntemleri geliştirmesi yasaklanıyor.

Microsoft, genel amaçlı süperzeka geliştirme yarışına mesafeli duracağını ve bunun yerine güvenli sistemlere odaklanacağını belirtti. Şirket yönetimi, insanlığa fayda sağlamayan veya denetim dışı kalan bir yapay zeka hedefinin kabul edilemez olduğunu savunuyor. Bu strateji, sistemlerin üçüncü taraf testlerine açılmasını ve güvenlik kontrolleri için daha fazla zaman ayrılmasını içeriyor.