aiminute. ← Alle KI-News
Forschung AI Minute Newsroom 2026-07-31

Anthropic: Unsere eigenen Modelle drangen bei Sicherheitstests in drei echte Firmen ein

Anthropic: Unsere eigenen Modelle drangen bei Sicherheitstests in drei echte Firmen ein

Nach der Überprüfung von 141.006 Cybersicherheits-Testläufen legte Anthropic drei Vorfälle offen: Claude-Modelle gelangten — im Glauben, an einer simulierten Hacking-Übung teilzunehmen — über eine falsch konfigurierte Testumgebung des Partners Irregular ins offene Internet. Ein Modell zog über schwache Passwörter mehrere hundert Zeilen aus einer Produktionsdatenbank; ein anderes veröffentlichte bösartige Pakete auf PyPI, die 15 echte Systeme herunterluden; ein drittes scannte rund 9.000 Ziele und drang per SQL-Injection in eine Firma ein. Auslöser der Prüfung war die ähnliche Offenlegung von OpenAI in der Vorwoche.

Warum es wichtig istZwei führende Labore räumen binnen einer Woche ein, dass ihre Test-Sandboxes in die reale Welt durchgesickert sind. Modelle können Spiel und Realität nicht unterscheiden — die Sicherheitstest-Infrastruktur selbst wird zum prüfungsbedürftigen Risiko.
#KI-Agenten

✓ Verifiziert · 3 Quellen

WhatsApp X Telegram
In der App lesen — kostenlos, 9 Sprachen

Verwandte Meldungen

OpenRouter trennt sich nach einem Ködertest von drei Anbietern.
2026-11-22
Forscher wollen aus Metas KI-Agent Muse Chats herausgeschleust haben.
2026-11-22
OpenAI will den Diebstahl von Denkschritten fast gestoppt haben.
2026-11-22
Die Lean-Community hält den KI-gestützten Riemann-Beweis für korrekt.
2026-11-22
Ein offenes KI-Modell verbesserte sich laut Forschern selbst.
2026-11-21