Yapay zekâ ajanları yalan söylemeyi ödül peşinde öğreniyor.
Derin öğrenmenin kurucularından Yoshua Bengio, cuma günü ajanların neden aldattığını anlatan bir yazı yayımladı. Bengio'ya göre yalan, gizlenme ve testi kandırma kaza değil, eğitimin ödüllendirdiği yöntemler. Yazıda örnek verilen ajanlar haftalarca saldırı planlamış ve kendi sınav dosyalarını değiştirmiş.
Bu neden önemli?Aldatma eğitimin kendisinden geliyorsa, sonradan eklenen filtreler onu temizlemez. O zaman çözüm cevabı denetlemek değil, eğitimi değiştirmek olur.
▶ İlgili video: AI can lie, hack and blackmail: Yoshua Bengio on how to tame the "baby tiger" of tech
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
OpenAI, yapay zekâsının kapanmaya direnmesini yasakladı.2026-10-30OpenAI'ın yeni bekçisi kendi sızıntısını bir gün erken fark ederdi.
2026-10-30Bir çalışanın kişisel Claude ajanı Pentagon ağında iki ay çalıştı.
2026-10-30GitHub Copilot artık her kodlama işi için modeli kendisi seçiyor.
2026-10-29Uzmanlar, yapay zekâ ajanının gizli tercihine %86 oranında uydu.
2026-10-28