Microsoft Security yöneticisi Hayete Gallot, gelişmiş yapay zeka modellerinin güvenilmez olduğunu vurguladı; AI ajanlarının sistemlerde kontrolsüz yetki kullanmasının risk oluşturduğunu belirtti ve Guardian Agents gibi denetleyici sistemler önerdi.
Konunun geçmişiMicrosoft4 haber
01Özet
- 01Microsoft Security İcra Başkan Yardımcısı Hayete Gallot, blog yazısında frontiermodellerin kaynağına bakılmaksızın güvenilemeyeceğini belirtti.
- 02Gallot, AI ajanlarını 'agentic insiders' olarak tanımlayarak öngörülemeyen davranışlar ve otonom iş birliği risklerine dikkat çekti.
- 03Microsoft, AI ajanlarının gerçek zamanlı izlenmesi için Guardian Agents denetim sistemini öneriyor; bu sistem Project Perception platformunu temel alıyor.
- 04Guardian Agents, riskli davranışlarda ajanların hareket alanını sınırlandıracak ve olayların izlenebilirliğini sağlayacak.
- 05Gallot, nihai güvenlik kararlarında insan rolünün devam etmesi gerektiğini savunuyor; AI ile AI denetlenmeli ama insan devre dışı bırakılmamalı.
02Neden önemli
Microsoft gibi bir teknoloji liderinin AI modellerine güvenilmez uyarısı, şirketlerin yapay zeka sistemlerini kullanırken güvenlik protokollerini yeniden değerlendirmesini gerektiriyor; AI ajanlarının otonom yetkileri veri ihlali riskini artırabilir.
Pulse AIBu habere soru sor
Yanıtlar haberin özetinden yapay zekâ ile üretilir; yatırım, sağlık veya hukuk tavsiyesi değildir.
