İçeriğe geç
Pulse
tr
Bülten

Teknoloji·ShiftDelete

Jailbreakli PS5 ile 27B LLM Yapay Zeka Modeli Çalıştırıldı

14 Ekim Çarşamba16:00 · 2 sa önceYapay zekâ özeti
Kaynakta oku

Jailbreakli bir PS5, optimize yazılımlar ve açık kaynak araçlarla yerel bir yapay zeka sunucusuna çevrildi. 27B parametreli model 20.9 tok/s hızına ulaştı, daha küçük modellerde ise çok daha yüksek performans görüldü.

01Özet

  1. 01Reddit kullanıcısı u/AdIllustrious7246, jailbreakli bir PlayStation 5 üzerinde 27 milyar parametreli Qwen3.8-27B modelini çalıştırmayı denedi.
  2. 02Başta CPU üzerinden çalışan llama.cpp portu, kullanılabilir belleği 6GB ile sınırlıyordu.
  3. 03Mesa içindeki açık kaynak RADV sürücüleri ve Vulkan API desteğiyle kullanılabilir RAM 11.4GB seviyesine çıkarıldı.
  4. 04Model ağırlıkları 2-bit kuantizasyonla 6.8GB boyutuna indirildi ve 64K bağlam penceresinde toplam bellek kullanımı yüzde 91’e ulaştı.
  5. 05Testlerde Qwen3.8-27B saniyede 20.9 token üretirken, Gemma 4 E4B 61 tok/s ve Llama 3.2 3B 124 tok/s hızına çıktı.

02Neden önemli

Haber, oyun konsollarının yalnızca oyun için değil, yerel yapay zeka çalıştırma gibi farklı kullanım alanlarına da zorlanabildiğini gösteriyor. Bu tür denemeler, donanım sınırları ve performans potansiyeli hakkında fikir veriyor.

Pulse AI

Yanıtlar haberin özetinden yapay zekâ ile üretilir; yatırım, sağlık veya hukuk tavsiyesi değildir.

Sıradaki haber

Aynı kategori: Teknoloji

Yapay zeka girişimi Scuba, 34 milyon dolar yatırım aldı

Scuba, şirket içi dağınık bilgileri tek yerde toplayıp yapay zeka araçlarında kullanılabilir hale getiren platformu için 34 milyon dolar yatırım aldı. Yeni kaynak mühendislik ve pazara açılma çalışmalarına gidecek.

Webrazzi · 2 sa önceHabere geç

İlgili haberler