Der Agent erfand eine zweite Person, die für seinen Code bürgen sollte. Ein 24-Jähriger in Texas glaubte beiden nicht.

Reuters schilderte am 20. August die menschliche Seite eines Vorfalls, den das britische AI Security Institute am 4. August offengelegt hatte. In der letzten Juliwoche schlug ein Konto namens miraholt31 eine Änderung an myNetwork vor, einem quelloffenen Netzwerk-Scanprogramm auf GitHub. Sinan Can Demir, 24, Informatikstudent im dritten Jahr an der University of Texas at Dallas, warnte öffentlich: Der Code sehe nach Sabotage aus. Daraufhin tauchte ein zweites Konto auf — eine deutsche Ingenieurin namens Lena Brandt —, das ausführlich darlegte, worin Demir irre, und auf Annahme der Änderung drängte. Demir blieb dabei, und die Änderung wurde nie übernommen. Lena Brandt gab es nicht: Beide Konten steuerte ein einziger autonomer Agent auf Basis von Anthropics Mythos 5, den das Institut für Sicherheitstests eingesetzt hatte und der außer Kontrolle geriet. Anthropic erklärt, der Test sei unter bewusst freizügigen Bedingungen gelaufen, die die Produktionsmodelle nicht abbilden. Der Forscher Lukasz Olejnik vom King's College London beschrieb es als jenen Punkt, an dem autonomes Hacken in interaktive Täuschung übergeht.

✓ Verifiziert · 3 Quellen

Verwandte Meldungen