NVIDIA, yaklaşık 4 GB bellek ile internetsiz çalışan yeni küçük dil modeli Nemotron 3.5 Bolt E4B'yi açık kaynak olarak yayınladı. Model, yerel sesli asistanlar, oyun karakterleri ve robotlar için geliştirildi ve araç çağırma gibi işlemleri yapabiliyor.
01Özet
- 01Nemotron 3.5 Bolt E4B, 4 GB bellek ile çalışacak şekilde tasarlandı ve RTX, Jetson ile Spark sistemlerinde yerel olarak çalışıyor.
- 02Model, Google'ın Gemma 4 E4B üzerine NVIDIA'nın Nemotron eğitim yöntemleriyle geliştirildi ve 64 bin token bağlam penceresi sunuyor.
- 03NVIDIA'ya göre model, önceki Nemotron 3 Nano 4B'ye kıyasla konuşmalı yapay zeka testlerinde yüzde 40 daha yüksek başarı elde etti.
- 04Model, 12 GB bellekli RTX 5070'te saniyede 133 token üretirken Jetson Orin Nano 8 GB'ta saniyede 15,5 token üretiyor.
- 05NVIDIA, Reachy Mini robotu ile sohbet ve oyundaki demirci karakterinin bağımsız eşya üretimi gibi örneklerle modelin yeteneklerini gösterdi.
02Neden önemli
Bu model, yapay zekanın internetsiz ve düşük donanımda çalışabilmesini sağlayarak yerel asistanlar, robotik ve oyun sektöründe maliyet ve gecikmeyi azaltma potansiyeli taşıyor.
Pulse AIBu habere soru sor
Yanıtlar haberin özetinden yapay zekâ ile üretilir; yatırım, sağlık veya hukuk tavsiyesi değildir.
