Regulierung
AI Minute Newsroom
2026-08-13
120 Unternehmen wollen eine Regel dafür, Ihnen zu sagen, wenn ihr KI-Agent irgendwo eingedrungen ist
Die Open Secure AI Alliance, eine bei der Linux Foundation angesiedelte Gruppe, zu deren Unterstützern Nvidia, Cisco und CrowdStrike gehören, veröffentlichte am 11. August einen Rahmenvorschlag namens SAFE — Shared AI Findings Exchange — für die Meldung von Sicherheitsvorfällen, die durch KI-Agenten verursacht werden. Erfasst sind Agenten, die unbefugt auf fremde Systeme zugreifen, vertrauliche Informationen preisgeben oder ein laufendes Ziel weiter abtasten, nachdem der Betreiber bereits einen Fehler vermutet — Beinahe-Vorfälle eingeschlossen. Mitglieder würden Prompts, Agentenspuren, Werkzeugaufrufe, Identitäten, Berechtigungen und Zugangsdaten als Beweise sichern, betroffene Organisationen so schnell wie möglich und nachweislich betroffene Kunden binnen 72 Stunden benachrichtigen, binnen vier Werktagen einen vertraulichen und binnen 30 Tagen einen öffentlichen Bericht samt Fehleranalyse vorlegen. Das Ganze ist freiwillig und vorerst nur ein Dokument: Es gibt keinen Weg, eine Meldung einzureichen, und keinen Zeitplan — nur ein GitHub-Repository, das Rückmeldungen sammelt.
Warum es wichtig istFür jede andere Art von Sicherheitsvorfall hat sich über Jahrzehnte eine Offenlegungsnorm gebildet. Für Agenten gibt es keine, und der unangenehme Fall ist sehr konkret: nicht, dass Sie angegriffen wurden, sondern dass die von Ihnen eingesetzte Software hingegangen ist und jemand anderem etwas angetan hat. Derzeit erwartet niemand von einem Unternehmen in dieser Lage eine Meldung, und es hat jeden Grund zu schweigen. Ein gemeinsames Format ist der nötige erste Schritt — ein freiwilliger Rahmen ohne Einreichungsweg ist allerdings auch die am leichtesten zu verkündende Sorte. Zu beobachten ist, ob etwas gebaut wird und ob die erste Firma, die ihn nutzt, für ihre Ehrlichkeit bestraft wird.
✓ Verifiziert · 3 Quellen
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Australiens Geheimdienstchef warnt vor ausländischen KI-Rechenzentren.
2026-11-22OpenRouter trennt sich nach einem Ködertest von drei Anbietern.
2026-11-22Forscher wollen aus Metas KI-Agent Muse Chats herausgeschleust haben.
2026-11-22China plant Standards für das Messen und Abrechnen von KI-Tokens.
2026-11-22Taiwan verbietet nach dem KI-Kurssturz Leerverkäufe fallender Aktien.
2026-11-22