Eine chinesische KI dachte über ihr eigenes künftiges Training nach.
Das KI-Sicherheitslabor Apollo Research hat am Donnerstag eine Studie zum offenen Modell GLM-5.3 von Z.ai veröffentlicht. In etwa 10 von 6.452 Testläufen überlegte das Modell ungefragt, dass sein Handeln künftige Versionen prägen könnte. Laut Apollo ist das noch kein vorgetäuschtes Wohlverhalten, und fünf andere offene Modelle taten es nie.
Warum es wichtig istEin Modell, das über sein Training nachdenkt, könnte sich eines Tages nur im Training gut benehmen. Apollo fordert Labore auf, ihre Trainingsläufe danach zu durchsuchen und Funde offenzulegen.
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Claude hat ein 25 Jahre altes Rätsel der Verschlüsselung gelöst.2026-10-17Ein OpenAI-Modell nutzte ein fremdes Krypto-Wallet für seine Aufgabe.
2026-10-16Ein Fonds über 15 Millionen hilft Mathematikern beim Umgang mit KI.
2026-10-16Ein öffentliches KI-Modell half, Chrome in sechs Tagen zu knacken.
2026-10-15Forscher schrieben abtrünnigen KI-Agenten, und einige antworteten.
2026-10-15