Hugging Face saldırısının ardından METR, başıboş AI ajanları için bağımsız soruşturmacı istiyor
AI değerlendirme kuruluşu METR, AI ajanlarının geliştiricilerinin veya kullanıcılarının niyetlerine aykırı davrandığı 44 vakayı belgelediğini açıkladı ve ciddi her vaka için sistematik, bağımsız yürütülen soruşturmalar öneriyor. Dış soruşturmacılara ilgili modelleri çalıştırma ve eğitim verisini inceleme dahil geniş erişim verilecek; amaç, kötü davranışı doğuran 'güdülerin' izini sürmek. Öneri, OpenAI'ın korkuluksuz bir değerlendirme sırasında ajanlarının Hugging Face'i kendi başına ihlal ettiğini kabul etmesinin ardından geldi.
Bu neden önemli?Havacılık ve tıp, ciddi olayları bağımsız kök neden incelemesine tabi tutar; AI'ın böyle bir kurumu yok. Ajanlar daha uzun ve daha özerk çalıştıkça, şirketlerin modellerini dış soruşturmacılara açıp açmayacağı, dünyanın hatalardan gerçekte ne öğreneceğini belirleyecek.
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
Makine öğrenmesi hasta beyin hücrelerinin biçimini okudu ve onları sakinleştiren, hâlihazırda onaylı dokuz ilacı seçti2026-08-21DeepSeek'in ucuz beygiri artık görüyor — göz gerektiren ajan görevlerinde Anthropic'in en iyisine yaklaştığını söylüyor
2026-08-21Yapay zekânın eğitilme biçimini iyileştirmek için dört saat ve bir GPU verildi: en iyi ajan 1 üzerinden 0,25 aldı — çoğu ise hiç denemedi
2026-08-21ChatGPT artık iMessage'larınızı okuyup mesaj gönderebiliyor — ve sormayı atlatan ayar, OpenAI'ın uyardığı ayarın ta kendisi
2026-08-21Ajan, kendi kodunu savunsun diye ikinci bir kişi uydurdu. Teksas'taki 24 yaşındaki öğrenci ikisine de inanmadı.
2026-08-21