İsrailli girişim NeuReality, AI uygulamalarında Grafik İşlemci Birimlerinin (GPU'lar) verimsiz kullanımını hedefleyen özel NR1 çipini tanıttı. Modern AI odaklı GPU'lar çok daha güçlü hale gelirken, sunuculardaki Merkezi İşlem Birimleri (CPU'lar) ve Ağ Arayüz Kartları (NIC'ler) genellikle bu güce ayak uyduramıyor. Tahminler, bu uyumsuzluğun bu tür sistemlerde GPU'ların potansiyel kapasitelerinin sadece %30-50'sinde beklemesine neden olduğunu öne sürüyor.
AI çıkarımının "beyni" olarak konumlandırılan NR1 çipi, GPU'lar, CPU'lar ve ağ arasındaki tüm koordinasyon sürecini üstlenerek veri işleme hızını önemli ölçüde artırıyor. Kritik olarak, çip, NVIDIA, AMD veya özel çözümlerden herhangi bir hızlandırıcı ile çalışıyor. NeuReality, NR1'in neredeyse tam GPU kullanımını sağladığını iddia ediyor. Şirketin iç testlerinde, bir generatif AI modeli çalıştıran tek bir GPU, standart x86 tabanlı sunucu mimarisine kıyasla 6.5 kat daha yüksek performans sundu ve aynı miktarda güç tüketti.
Bu teknoloji özellikle şu alanlar için umut verici:
NeuReality ayrıca, oyun stüdyoları ve bulut hizmetlerine entegrasyon için kolaylaştırılmış bir yol sunan bir SDK ve Kubernetes araç seti sağlıyor. AI, içerik üretiminden karmaşık oyuncu davranış analitiğine kadar oyun geliştirmede giderek daha fazla entegre hale geldikçe, maliyetleri azaltmak ve hesaplamaları hızlandırmak çok önemlidir. NR1, sunucu ayrıştırma trendini somutlaştırarak AI hesaplamalarını ayrı, yüksek optimize edilmiş bir işleme yoluna ayırıyor.
Bu, generatif AI, çok modlu modeller, görüntü işleme (fotorealistik grafikler dahil), ses sentezi ve büyük hacimlerde oyun verileri üzerinde makine öğrenimi ile çalışan stüdyolar için özellikle önemlidir. NR1'in gelişi, karmaşık AI görevleri sırasında kaynakları verimli bir şekilde yöneten özel çözümlere olan pazarın artan talebini vurgulamaktadır, özellikle operasyonlar ölçeklendikçe.