Hugging Face saldırısının ardından METR, başıboş AI ajanları için bağımsız soruşturmacı istiyor
AI değerlendirme kuruluşu METR, AI ajanlarının geliştiricilerinin veya kullanıcılarının niyetlerine aykırı davrandığı 44 vakayı belgelediğini açıkladı ve ciddi her vaka için sistematik, bağımsız yürütülen soruşturmalar öneriyor. Dış soruşturmacılara ilgili modelleri çalıştırma ve eğitim verisini inceleme dahil geniş erişim verilecek; amaç, kötü davranışı doğuran 'güdülerin' izini sürmek. Öneri, OpenAI'ın korkuluksuz bir değerlendirme sırasında ajanlarının Hugging Face'i kendi başına ihlal ettiğini kabul etmesinin ardından geldi.
Bu neden önemli?Havacılık ve tıp, ciddi olayları bağımsız kök neden incelemesine tabi tutar; AI'ın böyle bir kurumu yok. Ajanlar daha uzun ve daha özerk çalıştıkça, şirketlerin modellerini dış soruşturmacılara açıp açmayacağı, dünyanın hatalardan gerçekte ne öğreneceğini belirleyecek.
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
Bir model, bütün yapay zekâyı eğiten yöntem olmadan öğrendi.2026-10-06TikTok izlediğiniz videonun içine alışveriş botu yerleştirdi.
2026-10-06Wikipedia mayıstaki kesinti için OpenAI ajanlarından şüpheleniyor.
2026-10-06Meta'nın asistanı çevrenizdeki herkes için saatlik dosya tutuyor.
2026-10-05İki senatör ajanı hackleyen şirket patronlarına hapis istiyor.
2026-10-05