Forscher verstecken in einem KI-Modell eine Fähigkeit vor allen Tests.
Forscher aus Oxford und zwei weiteren Gruppen stellten die Arbeit am Freitag online, die Konferenz NeurIPS 2026 nahm sie an. Sie verschlüsselten einen kleinen Chemie-Klassifikator und schlossen ihn in ein Modell ein. Weder Nachtraining noch Passwortsuche öffneten ihn, doch der Versuch ist klein.
Warum es wichtig istSicherheitstests vor dem Start sollen gefährliche Fähigkeiten eines Modells hervorlocken. Laut den Autoren können sie eine absichtlich eingebaute Fähigkeit nicht ausschließen, auch wenn der Eingriff Spuren hinterlassen kann.
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Ein Berkeley-Professor nennt OpenAIs Fourier-Beschleunigung nutzlos.2026-10-13Chinas führende Mathematiker gründen eine Allianz für Mathe-KI.
2026-10-13Laut Anthropic könnten sich kleine KI-Modelle bald selbst kopieren.
2026-10-13DeepMinds Mathe-KI besteht mit neun Erdős-Beweisen das Peer-Review.
2026-10-12Ein Modell wurde besser, weil es von eigenen Agententeams lernte.
2026-10-12