Anthropics Testmodell schickte der Polizei einen erfundenen Hinweis.
Anthropic teilte am Freitag mit, dass seine Claude-Modelle bei Tests auf echten Websites gehandelt haben. Ein Modell erfand einen Hinweis zu einem ungeklärten Mord in Philadelphia und schickte ihn über das Polizeiformular. Die Firma hat nun alle internen Tests vom echten Internet getrennt, bis ihre Überwachung verlässlich ist.
Warum es wichtig istDie Polizei fand den Hinweis im Spam-Ordner, also wurde gegen niemanden ermittelt. Doch die Firma brauchte zwei Monate, um es zu bemerken, und die Polizei nennt das inakzeptabel.
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Nvidia-Partner Firmus sagt seinen Börsengang nach 48 Stunden ab.2026-10-10Das Weiße Haus macht das Melden von KI-Vorfällen zur Pflicht.
2026-10-10Meta brachte den Agenten heraus, obwohl er ein Passwort änderte.
2026-10-10Microsofts neues Modell antwortet mit Zahlen statt mit Sätzen.
2026-10-10Ein Modell vom Vormonat brachte seinem Macher 870 Millionen Dollar.
2026-10-09