Subquadratic, Yeni Dil Modeli Mimarisi İçin Bağımsız Onay Aldı
Subquadratic, yeni seyrek dikkat mimarili dil modelinin verimliliğini bağımsız testlerle doğrulattı. Sistem, hesaplama maliyetlerini düşürmeyi hedefliyor.
Jason Kwon ·

Verimlilik Odaklı Yeni Mimari
Miami merkezli teknoloji girişimi Subquadratic, geliştirdiği yeni yapay zeka mimarisi SubQ'nun performans verilerini bağımsız bir denetimle doğrulattı. Şirket, geleneksel transformer modellerinin yaşadığı hesaplama darboğazını aşmayı hedefleyen bir yöntem geliştirdiğini duyurdu.
Mevcut modellerde kullanılan yoğun dikkat (dense attention) mekanizması yerine seyrek dikkat (sparse attention) yapısını tercih eden girişim, bu sayede işlem maliyetlerini ve enerji tüketimini düşürmeyi amaçlıyor. Bu teknik değişikliğin, sistemin mevcut standartlara kıyasla 12 kat daha fazla metin verisini işleyebilmesine olanak tanıdığı belirtiliyor.
Bağımsız Denetim Süreci
Appen firması tarafından yürütülen bağımsız değerlendirmeler, Subquadratic'in verimlilik iddialarını destekleyen sonuçlar ortaya koydu. Appen bünyesinde üretken yapay zeka araştırmalarını yöneten Jeanine Sinanan-Singh, yapılan testlerin modelin hız ve kaynak kullanımı konusundaki sorunları çözme potansiyeline sahip olduğunu doğruladı.
Geleneksel modellerde 10 bin kelimelik bir metin yaklaşık 50 milyon matematiksel işlem gerektirirken, SubQ mimarisi bu yükü önemli ölçüde azaltıyor. Metin uzunluğu arttıkça katlanarak büyüyen hesaplama maliyeti, bu yeni yaklaşımla daha yönetilebilir bir seviyeye çekilmeye çalışılıyor.
Sektörel Etkiler ve Belirsizlikler
Teknoloji henüz halka açık test aşamasına gelmediği için sektörde temkinli bir yaklaşım gözlemleniyor. Subquadratic CTO'su Alex Whedon, yayınlanan üçüncü taraf raporlarının, modelin yeteneklerine dair şüpheleri gidermek amacıyla hazırlandığını ifade etti.
SubQ'nun tüm uygulama alanlarında mevcut lider modellerin yerini alması beklenmiyor. Ancak özellikle veri yoğunluklu görevlerde daha düşük maliyetli ve hızlı bir alternatif sunabileceği öngörülüyor. Şirket CEO'su Justin Dangel, bu gelişmenin uzun vadede transformer mimarilerine olan bağımlılığı azaltabileceğini savunuyor.
Yeni mimarinin gerçek dünya koşullarında nasıl bir performans sergileyeceği ve geniş ölçekli kurumsal sistemlere entegrasyonunun ne kadar süreceği ise henüz netlik kazanmış değil.