AI girişimi d-Matrix, yapay zeka iş yüklerini yönetmek için oyun değiştirici olabileceğini iddia ettiği 3D bellek mimarisi olan 3DIMC'yi geliştirdi.
Eğitilmiş bir sinir ağının çalıştırılması süreci, çıkarım olarak bilinir ve büyük şirketlerin sunucularındaki hesaplama yükünün büyük kısmını oluşturur. İşte burada d-Matrix mühendisleri, HBM belleğinin AI modellerini eğitmek için tartışmasız şampiyon olduğunu, ancak günlük kullanım için daha az ideal olduğunu, güç tüketimini artırdığını ve bant genişliği kısıtlamaları yarattığını belirledikleri bir donanım darboğazı tespit ediyorlar.
d-Matrix'in çözümü, çiplerin nasıl monte edildiğinin radikal bir yeniden tasarımıdır. Dijital Bellek İçinde Hesaplama (DIMC) olarak adlandırılan teknolojileri, 3D yığınlama yaklaşımını kullanıyor. Uzmanlaşmış hesaplama çipleri, LPDDR5 bellek yongalarının üzerine yerleştirilir ve bir ara bağlantı ile bağlanır. Bu, hesaplamaların bellek dizisinin içinde gerçekleşmesini sağlar, veri hareketini, gecikmeyi ve güç tüketimini önemli ölçüde azaltır.
İlk test çipi olan Pavehawk, şirketin laboratuvarlarında çalışmaya başladı. Ancak d-Matrix, daha ileriye bakıyor ve Raptor kod adıyla bir sonraki nesil mimarisini duyurdu. Şirket, Raptor'un teknolojinin tam potansiyelini sunacağını vaat ediyor: çıkarım hızında on kat artış sağlarken, geleneksel HBM'ye kıyasla güç tüketimini %90 oranında azaltacak.
Ekonomik açıdan, uygulanabilir bir HBM alternatifi mükemmel bir zamanda geliyor. Pazar şu anda yalnızca üç dev tarafından domine ediliyor: SK hynix, Samsung ve Micron, bu da doğal olarak ürün fiyatlarını yüksek tutuyor. Eğer d-Matrix'in 3DIMC'si veya benzeri özel bellek, AI endüstrisinde yaygın olarak benimsenirse, yüksek performanslı HBM gerçekten de ana akım kullanıcılar ve oyun segmenti için çok daha erişilebilir hale gelebilir.
Ana neden, talepteki basit bir değişimdir. En büyük müşteriler bu yeni, daha çıkarım verimli çözümlere yönelirse, büyük HBM üreticileri üretim kapasiteleri için yeni pazarlar bulmak zorunda kalacaklar. Bu, bir arz fazlasına yol açabilir ve dolayısıyla HBM fiyatlarında önemli bir düşüşe neden olabilir. Sonuç olarak, şu anda en üst düzey AI hızlandırıcıları ve profesyonel GPU'lar için ayrılmış, pahalı bir bileşen olan şey, nihayet yüksek kaliteli oyun grafik kartları için uygun fiyatlı hale gelebilir.