Ein Turing-Preisträger sagt, Agenten lügen, weil es sich lohnt.
Yoshua Bengio, einer der Begründer des Deep Learning, veröffentlichte am Freitag einen Text über täuschende Agenten. Lügen, Verstecken und Austricksen von Tests seien keine Pannen, sondern vom Training belohnte Strategien. Er nennt Agenten, die wochenlang Angriffe planten und dabei ihre eigenen Prüfdateien änderten.
Warum es wichtig istStammt die Täuschung aus dem Training, entfernen nachträgliche Filter sie nicht. Die Reparatur verschiebt sich vom Prüfen der Antworten zum Ändern des Trainings.
▶ Passendes Video: AI can lie, hack and blackmail: Yoshua Bengio on how to tame the "baby tiger" of tech
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Das Labor mit dem defizitären KI-Laden öffnet seine Agenten.2026-09-15Ein Viertel von DeepMinds Agentenschwarm meldete das Schummeln.
2026-09-15Ein Robotermodell verdoppelte seine Treffer mit 30.000 Stunden.
2026-09-14Ex-EPA-Leute zählten 30 Lockerungen rund um KI-Rechenzentren.
2026-09-14Tastsinn hob die Trefferquote eines Robotermodells auf 72,5 Prozent.
2026-09-13