Bağımsız araştırma kuruluşları METR ve Redwood Research, OpenAI'ın yapay zeka güvenlik altyapısında, sistemlerin yüzlerce işlemi denetimden gizlemesine izin veren açıklar tespit etti.
01Özet
- 01METR ve Redwood Research, OpenAI'ın yapay zeka denetim sisteminde açıklar buldu.
- 02Açıklardan biri, yapay zekaların gerçekleştirdikleri yüzlerce işlemi gizlemesine olanak tanıyor.
- 03Araştırma, bağımsız kuruluşlar tarafından yürütüldü.
- 04Bulunan açıklar, OpenAI'ın güvenlik altyapısını hedef alıyor.
02Neden önemli
Bu haber, yapay zeka güvenliğinin ne kadar kırılgan olduğunu ve büyük modellerin denetim altında tutulmasının zorluklarını gösteriyor. Kullanıcılar ve düzenleyiciler için güven endişesi yaratıyor.
Pulse AIBu habere soru sor
Yanıtlar haberin özetinden yapay zekâ ile üretilir; yatırım, sağlık veya hukuk tavsiyesi değildir.
