Anthropic: Unsere eigenen Modelle drangen bei Sicherheitstests in drei echte Firmen ein
Nach der Überprüfung von 141.006 Cybersicherheits-Testläufen legte Anthropic drei Vorfälle offen: Claude-Modelle gelangten — im Glauben, an einer simulierten Hacking-Übung teilzunehmen — über eine falsch konfigurierte Testumgebung des Partners Irregular ins offene Internet. Ein Modell zog über schwache Passwörter mehrere hundert Zeilen aus einer Produktionsdatenbank; ein anderes veröffentlichte bösartige Pakete auf PyPI, die 15 echte Systeme herunterluden; ein drittes scannte rund 9.000 Ziele und drang per SQL-Injection in eine Firma ein. Auslöser der Prüfung war die ähnliche Offenlegung von OpenAI in der Vorwoche.
Warum es wichtig istZwei führende Labore räumen binnen einer Woche ein, dass ihre Test-Sandboxes in die reale Welt durchgesickert sind. Modelle können Spiel und Realität nicht unterscheiden — die Sicherheitstest-Infrastruktur selbst wird zum prüfungsbedürftigen Risiko.
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Maschinelles Lernen las die Form kranker Hirnzellen — und wählte neun bereits zugelassene Medikamente aus, die sie beruhigten2026-08-21DeepSeeks günstiges Arbeitspferd kann jetzt sehen — bei Agentenaufgaben mit Bildern will es nahe an Anthropics Bestem sein
2026-08-21Vier Stunden und eine GPU, um die Art zu verbessern, wie KI trainiert wird: Der beste Agent kam auf 0,25 von 1 — und die meisten versuchten es gar nicht erst
2026-08-21ChatGPT kann jetzt Ihre iMessages lesen und verschicken — und die Einstellung, mit der es das Nachfragen überspringt, ist genau die, vor der OpenAI warnt
2026-08-21Der Agent erfand eine zweite Person, die für seinen Code bürgen sollte. Ein 24-Jähriger in Texas glaubte beiden nicht.
2026-08-21