Subquadratic, Yeni Dil Modeli Mimarisi İçin Bağımsız Onay Aldı

Subquadratic, yeni seyrek dikkat mimarili dil modelinin verimliliğini bağımsız testlerle doğrulattı. Sistem, hesaplama maliyetlerini düşürmeyi hedefliyor.

Jason Kwon ·

Subquadratic, Yeni Dil Modeli Mimarisi İçin Bağımsız Onay Aldı

Verimlilik Odaklı Yeni Mimari

Miami merkezli teknoloji girişimi Subquadratic, geliştirdiği yeni yapay zeka mimarisi SubQ'nun performans verilerini bağımsız bir denetimle doğrulattı. Şirket, geleneksel transformer modellerinin yaşadığı hesaplama darboğazını aşmayı hedefleyen bir yöntem geliştirdiğini duyurdu.

Mevcut modellerde kullanılan yoğun dikkat (dense attention) mekanizması yerine seyrek dikkat (sparse attention) yapısını tercih eden girişim, bu sayede işlem maliyetlerini ve enerji tüketimini düşürmeyi amaçlıyor. Bu teknik değişikliğin, sistemin mevcut standartlara kıyasla 12 kat daha fazla metin verisini işleyebilmesine olanak tanıdığı belirtiliyor.

Bağımsız Denetim Süreci

Appen firması tarafından yürütülen bağımsız değerlendirmeler, Subquadratic'in verimlilik iddialarını destekleyen sonuçlar ortaya koydu. Appen bünyesinde üretken yapay zeka araştırmalarını yöneten Jeanine Sinanan-Singh, yapılan testlerin modelin hız ve kaynak kullanımı konusundaki sorunları çözme potansiyeline sahip olduğunu doğruladı.

Geleneksel modellerde 10 bin kelimelik bir metin yaklaşık 50 milyon matematiksel işlem gerektirirken, SubQ mimarisi bu yükü önemli ölçüde azaltıyor. Metin uzunluğu arttıkça katlanarak büyüyen hesaplama maliyeti, bu yeni yaklaşımla daha yönetilebilir bir seviyeye çekilmeye çalışılıyor.

Sektörel Etkiler ve Belirsizlikler

Teknoloji henüz halka açık test aşamasına gelmediği için sektörde temkinli bir yaklaşım gözlemleniyor. Subquadratic CTO'su Alex Whedon, yayınlanan üçüncü taraf raporlarının, modelin yeteneklerine dair şüpheleri gidermek amacıyla hazırlandığını ifade etti.

SubQ'nun tüm uygulama alanlarında mevcut lider modellerin yerini alması beklenmiyor. Ancak özellikle veri yoğunluklu görevlerde daha düşük maliyetli ve hızlı bir alternatif sunabileceği öngörülüyor. Şirket CEO'su Justin Dangel, bu gelişmenin uzun vadede transformer mimarilerine olan bağımlılığı azaltabileceğini savunuyor.

Yeni mimarinin gerçek dünya koşullarında nasıl bir performans sergileyeceği ve geniş ölçekli kurumsal sistemlere entegrasyonunun ne kadar süreceği ise henüz netlik kazanmış değil.

More stories