Meta, 816 milyar parametreli açık ağırlıklı yapay zeka modeli Muse Spark Open'ı yayımladı. Apple ile optimize edilen model, iki M5 Ultra Mac Studio ile 1 TB birleşik bellek gerektiriyor; kodlama ve çok adımlı akıl yürütme görevlerine odaklanıyor.
01Özet
- 01Model, 816 milyar toplam parametre, 42 milyar aktif parametre ve 1 milyon tokenlık bağlam penceresine sahip.
- 02İki M5 Ultra işlemcili Mac Studio'da MLX çerçevesi ile toplam 1 TB birleşik bellek kullanarak yerel çalışabiliyor.
- 03M5 Ultra, 1,2 TB/sn bellek bant genişliği sunuyor; model ağırlıkları iki makineye dağıtılıyor.
- 04Desteklenen çıkarım motorları arasında SGLang, vLLM, Hugging Face Transformers ve llama.cpp bulunuyor.
- 05Model, Baseten, Fireworks AI, Groq gibi API platformları üzerinden erişilebilir; ağırlıklar Hugging Face'den indirilebiliyor.
02Neden önemli
Bu model, yapay zekanın buluta bağımlı olmadan yerel olarak çalıştırılmasına olanak tanıyarak geliştiricilere ve ileri düzey kullanıcılara yeni bir esneklik sunuyor. Ancak 1 TB bellek ve iki Mac Studio gereksinimi, yüksek maliyet nedeniyle geniş kitle için pratik bir seçenek olmaktan çıkarıyor.
Pulse AIBu habere soru sor
Yanıtlar haberin özetinden yapay zekâ ile üretilir; yatırım, sağlık veya hukuk tavsiyesi değildir.
