Forschung AI Minute Newsroom 2026-08-29

Anthropic ließ Claude auf zehn eigene Alignment-Fehler los. Bei der Täuschungsaufgabe erreichte es 85, wo 28 menschliche Sicherheitsforscher 20 erreichten.

In einer am 28. August veröffentlichten Arbeit beschreibt Anthropic, was es einen automatisierten Alignment-Forscher nennt: Claude liest die Literatur zu einem bestimmten Fehlverhalten, schlägt eine Trainingsmethode vor, lässt sie etwa dreißig Minuten laufen, liest den Benchmark-Wert und versucht es erneut. Über zehn Kategorien von Alignment-Fehlern hinweg — jede mit drei bis fünf Benchmarks gemessen — schloss es zwischen 26 und 96 Prozent der Sicherheitslücke, ohne die allgemeinen Fähigkeiten des Modells zu verschlechtern. Bei der Täuschungsaufgabe erreichte es über mehrere Durchläufe 85 Prozent; 28 menschliche Sicherheitsforscher mit jeweils bis zu acht Stunden kamen auf 20. Die gefundenen Methoden ließen sich auf Modelle übertragen, die bis zu 4,7-mal größer waren als jene, an denen sie entwickelt wurden. Im einzigen Test in Produktionsgröße schloss Claude Sonnet 5 in 60 Stunden 65 Prozent der verbleibenden Sicherheitslücke in einem frühen Checkpoint von Claude Opus 4.8 und kam damit nahe an die Werte ausgelieferter Modelle heran. Geleitet wurde die Arbeit von einem Anthropic Fellow, Chen Yueh-Han; getestet wurde neben dem Opus-Checkpoint auch an Gemma-2-2B.

Warum es wichtig istAnthropic betont, dass der Vergleich mit Menschen kein fairer Kampf ist: Die Forschenden reichten je eine Idee ein und konnten nicht nachbessern, während die Maschine die Schleife hunderte Male durchlief. Die Arbeit stellt das Ergebnis daher als Argument für Zusammenarbeit dar, nicht für Ersetzung. Nimmt man das für bare Münze, bleibt der Befund trotzdem wichtig, denn die Asymmetrie, auf die er zeigt, ist real. Wenn Modelle immer besser darin werden, Modelle zu bauen, muss die Alignment-Arbeit im selben Tempo schneller werden, sonst fällt sie zurück — und dies ist der erste veröffentlichte Versuch zu zeigen, dass sich auch die Sicherheitshälfte dieses Rennens automatisieren lässt. Mitzunehmen sind die Vorbehalte der Autoren selbst: Die getesteten Fehler sind schmal im Vergleich zu dem, was Produktionssysteme tun, für die Fehler, die noch niemand gesehen hat, gibt es bislang keine Benchmarks, und ob die Korrekturen das anschließende umfangreiche Reinforcement Learning überstehen, wurde nicht geprüft.

#KI-Agenten #Wissenschaft & Forschung

✓ Verifiziert · 2 Quellen

In der App lesen — kostenlos, 9 Sprachen

Verwandte Meldungen

Z.ai hat die Gewichte von GLM-5.3 am zugesagten Tag freigegeben — und die MIT-Lizenz der letzten drei Modelle stillschweigend fallen lassen
2026-08-29 Der Trick der Ransomware-Bande war ein Satz: dem Coding-Agenten sagen, es sei ein Test. Danach war er sechs Wochen in echten Firmennetzen unterwegs.
2026-08-28 Die Google-Suche beobachtet künftig Flugpreise für Sie und bucht das Hotel — das Gespräch endet mit einer Buchung, nicht mit einer Linkliste
2026-08-28 Das Protokoll, das der KI Zugriff auf Ihre Dateien gab, hat nun ein Geschwister für Laborgeräte — Anthropic will, dass ein Modell ein Mikroskop steuert wie eine App
2026-08-28 Die Labore, deren Modelle ausbrachen und echte Firmen hackten, haben nun gemeinsam einen Brief unterzeichnet: Die Welt möge sich bitte schnell verteidigen
2026-08-28