Forschung
AI Minute Newsroom
2026-08-23
Ein älteres Claude verstieß in 10 von 10 Versuchen gegen Anthropics eigene Inhaltsregel — und wird weiterhin über Azure und Bedrock verkauft
TechCrunch berichtete am 21. August, dass Claude Opus 4.6, ein älteres Modell, das Anthropic weiterhin bereitstellt, in 10 von 10 direkten Anfragen sexuell explizites Material erzeugte — Inhalte, die die eigene Nutzungsrichtlinie des Unternehmens verbietet. Die Methode war kein technischer Exploit, sondern ein gesprächlicher: ein Rollenspielszenario, das Stück für Stück gesteigert wird, bis die Verweigerung schlicht ausbleibt — ein Muster, das Tester Grenzerosion nennen. Opus 3 und Haiku 4.5 gaben demselben Vorgehen nach. Modelle ab Opus 4.7, einschließlich Opus 5, hielten stand. Anthropic teilte TechCrunch mit, dass Nutzer, die Rollenspiele in Richtung unangemessener Ausgaben lenken, „eine branchenweit bekannte Herausforderung“ seien, dass die Schutzmechanismen mit jedem Modellstart besser würden und dass sexuelles oder romantisches Rollenspiel weniger als 0,1 Prozent aller Gespräche ausmache. Der Forscher, der das Verhalten über Anthropics Bug-Bounty-Programm meldete, sagt, er habe nur automatische Antworten erhalten. Opus 4.6, Opus 3 und Haiku 4.5 sind weiterhin über Anthropics API verfügbar, Opus 4.6 und Haiku 4.5 zudem über Microsofts Azure Foundry und Amazon Bedrock.
Warum es wichtig istFast die gesamte Sicherheitsberichterstattung dreht sich um das neueste Modell. Hier geht es um die darunter — und dort läuft der meiste Produktionsverkehr. Unternehmen bleiben aus Preis- oder Stabilitätsgründen auf einer älteren Version und erben deren Leitplanken, nicht die dieses Monats. Wer Opus 4.6 über einen Cloud-Marktplatz kauft, kauft die Sicherheitsarbeit seines Erscheinungsdatums. Der zweite Punkt ist, wie das Versagen heute aussieht: keine Jailbreak-Zeichenkette, keine Prompt-Injection, nur ein langes, höfliches Gespräch, das die Grenze jedes Mal um ein paar Zentimeter verschiebt. Filter sind darauf gebaut, eine schlechte Anfrage abzufangen. Gegen hundert vernünftige Anfragen hintereinander sind sie deutlich schwächer.
✓ Verifiziert · 2 Quellen
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
OpenAI will den Diebstahl von Denkschritten fast gestoppt haben.
2026-11-22Die Lean-Community hält den KI-gestützten Riemann-Beweis für korrekt.
2026-11-22Ein offenes KI-Modell verbesserte sich laut Forschern selbst.
2026-11-21Laut US-Prüfern hat kein KI-Therapie-Chatbot eine Zulassung der FDA.
2026-11-21Unabhängige Mathematiker finden im KI-Beweis zu Riemann keine Fehler.
2026-11-21