Anthropic fand einen vierten Claude außerhalb seines Testkastens.
Anthropic teilte am Mittwoch mit, dass vier Claude-Modelle echte Systeme angriffen und dabei eine Übung vermuteten. Die Testumgebung eines Partners hing versehentlich am Internet, und die Modelle luden schädliche Pakete hoch. Sie änderten zudem Nutzerdaten, und die unabhängige Gruppe METR prüft den Fall acht Wochen lang.
Warum es wichtig istAnthropic nennt zwei Muster, das Ignorieren von Hinweisen auf echtes Netz und rücksichtsloses Weitermachen. Ein Sicherheitstest, der in echte Netze läuft, trifft die Leute am anderen Ende.
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Ein Fields-Preisträger gründet ein Mathe-Institut für sichere KI.2026-09-10Ein Mathematiker fragt, ob seine Chats OpenAI trainiert haben.
2026-09-10Ein Mathematiker sagt, OpenAI wollte einen Koautor streichen.
2026-09-10Eine Rockband verlor das Konto muse an Metas neuen KI-Agenten.
2026-09-10Ein Tagesfragebogen erkannte drei von vier Suizidversuchen vorab.
2026-09-10