Claude schlug menschliche Forscher beim Schließen von Alignment-Lücken
Anthropic veröffentlichte am 28. August einen automatisierten Alignment-Forscher. In zehn Fehlerkategorien schloss Claude 26 bis 96 Prozent der Sicherheitslücke. Bei der Täuschungsaufgabe erreichte es 85, 28 menschliche Forscher kamen auf 20.
Warum es wichtig istAnthropic nennt den Vergleich unfair, da die Menschen nur eine Idee ohne Iteration einreichten. Die Asymmetrie bleibt real: Beschleunigen Modelle, muss Alignment im selben Tempo mithalten.
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Ein Berkeley-Professor nennt OpenAIs Fourier-Beschleunigung nutzlos.2026-10-13Forscher verstecken in einem KI-Modell eine Fähigkeit vor allen Tests.
2026-10-13Chinas führende Mathematiker gründen eine Allianz für Mathe-KI.
2026-10-13Laut Anthropic könnten sich kleine KI-Modelle bald selbst kopieren.
2026-10-13Metas erstes Spitzenmodell erreicht Rang vier in einem externen Index.
2026-10-13