NVIDIA yerel yapay zeka ekosistemini genişletiyor

NVIDIA, yerel ağdaki cihazların işlem gücünü birleştiren açık kaynaklı PAIR (Personal AI Router) aracını ve yüksek performanslı RTX Spark bilgisayar platformunu duyurdu. PAIR, yerel ağdaki boşta duran cihazları mTLS şifreleme protokolüyle birbirine bağlayarak karmaşık yapay zeka görevlerini dağıtıyor. Bu sistem, bulut bağımlılığını azaltarak veri güvenliğini yerel ağ sınırları içinde tutmayı hedefliyor.

Ekim ayında piyasaya çıkacak RTX Spark platformu, Blackwell mimarili GPU'lar, 20 çekirdekli Grace CPU ve 128 GB birleşik bellek mimarisiyle 1 Petaflop işlem gücü sunuyor. Donanım üreticileri Acer ve Lenovo, bu yeni standartla uyumlu masaüstü ve dizüstü modellerini tanıttı.

Şirket ayrıca llama.cpp ve vLLM gibi açık kaynaklı çıkarım motorlarında performans artışları sağlayan optimizasyonlar yayınladı. RTX 5090 ekran kartlarında yüzde 90'a varan hız kazanımları, yerel yapay zeka uygulamalarının kurumsal ve bireysel kullanımda verimliliğini artırıyor. Bu gelişmeler, yapay zeka iş yüklerinin bulut sunucularından yerel donanımlara kaydırılması stratejisini destekliyor.