Çinli yapay zeka şirketi DeepSeek, modellerini daha düşük maliyetle çalıştıran DeepInfer yazılım altyapısını açık kaynak olarak yayımladı. Sistem, Nvidia ve Huawei çiplerinde çalışarak hesaplama maliyetlerini ve enerji tüketimini azaltmayı hedefliyor.
Konunun geçmişiYapay19 haber
01Özet
- 01DeepSeek, DeepInfer altyapısını açık kaynak olarak yayımladı; şimdilik yalnızca DeepSeek-V4.1-Flash modelini destekliyor.
- 02Yazılım, Nvidia SM100 Blackwell GPU'ları ve Huawei Ascend 950 çipleriyle uyumlu.
- 03DeepSeek, DeepInfer ile GPU başına saatlik 38 dolar gelir elde edilebileceğini ve günde 155 trilyon token işlendiğini açıkladı.
- 04Müşteri isteklerinin yüzde 96'sı önbellekteki verilerle ilişkilendiriliyor; bu yöntem maliyeti 50 kata kadar azaltabiliyor.
- 05Önbellekteki veriler 72 saatten uzun süre saklanabiliyor, böylece aynı hesaplamaların tekrarı önleniyor.
02Neden önemli
Bu açık kaynak altyapı, yapay zeka modellerini çalıştıran şirketlerin maliyetlerini düşürebilir ve rekabetle birlikte tüketiciye daha ucuz yapay zeka hizmetleri olarak yansıyabilir.
Pulse AIBu habere soru sor
Yanıtlar haberin özetinden yapay zekâ ile üretilir; yatırım, sağlık veya hukuk tavsiyesi değildir.
