120 şirket, yapay zekâ ajanları bir yere sızdığında bunun size söylenmesi için bir kural istiyor

Linux Foundation çatısı altındaki, destekçileri arasında Nvidia, Cisco ve CrowdStrike'ın bulunduğu Open Secure AI Alliance, 11 Ağustos'ta yapay zekâ ajanlarının yol açtığı güvenlik olaylarının bildirimi için SAFE — Shared AI Findings Exchange — adlı bir çerçeve önerisi yayımladı. Çerçeve; ajanların üçüncü taraf sistemlere yetkisiz erişmesini, gizli bilgi ifşa etmesini ya da işletmeci bir şeylerin ters gittiğinden şüphelendikten sonra canlı bir hedefi yoklamayı sürdürmesini kapsıyor; gerçekleşen zararın yanında ramak kalaları da içeriyor. Üyeler kanıt olarak istemleri, ajan izlerini, araç çağrılarını, kimlikleri, yetkileri ve kimlik bilgilerini saklayacak; etkilenen kurumları mümkün olan en kısa sürede, açıkça etkilenen müşterileri 72 saat içinde bilgilendirecek; dört iş günü içinde gizli bir rapor, 30 gün içinde neyin başarısız olduğunun analiziyle birlikte kamuya açık bir rapor sunacak. Çerçeve gönüllü ve şimdilik yalnızca bir belge: rapor gönderme yolu yok, uygulama takvimi yok; sadece geri bildirim toplayan bir GitHub deposu var.

✓ Doğrulandı · 3 kaynak

İlgili haberler