Nvidia bünyesindeki Groq, yapay zeka çiplerinde SRAM yerine 3D yığınlanmış DRAM kullanmayı planlıyor; hedef daha büyük modeller için bellek kapasitesini artırmak.
Konunun geçmişiNvidia3 haber
01Özet
- 01Groq, mevcut LPU çiplerinde 500 MB SRAM ve 1,50 TB/s bant genişliği sunuyor.
- 02Şirket, yeni nesil çiplerinde birden fazla DRAM katmanını TSV bağlantılarıyla birleştiren 3D yığınlama teknolojisini değerlendiriyor.
- 033D yığınlanmış DRAM, daha yüksek bellek yoğunluğu ve enerji verimliliği potansiyeli sağlıyor.
- 04Nvidia, Groq teknolojisini Vera Rubin ekosistemindeki LPX raflarıyla yapay zeka çıkarım performansını artırmak için kullanıyor.
- 05Ağustos ayında tam üretime geçen sistemler, NVL72 sunucularıyla saniyede 3.400 token performansı hedefliyor.
02Neden önemli
Yapay zeka modelleri büyüdükçe bellek kapasitesi kritik hale geliyor; bu teknoloji değişimi, yapay zeka donanımında yeni bir dönemi işaret ediyor ve sektörün verimliliğini etkileyebilir.
Pulse AIBu habere soru sor
Yanıtlar haberin özetinden yapay zekâ ile üretilir; yatırım, sağlık veya hukuk tavsiyesi değildir.
