aiminute. ← Alle KI-News
Neue Modelle AI Minute Newsroom 2026-11-15

IBMs neue offene Modelle ignorieren in Dokumenten versteckte Befehle

IBMs neue offene Modelle ignorieren in Dokumenten versteckte Befehle

IBM hat am Donnerstag zwei kleine offene Modelle veröffentlicht, die Anweisungen und Daten getrennt markieren. In IBMs eigenen Tests sank die Erfolgsquote versteckter Angriffe von über der Hälfte auf unter 6 Prozent. Die Modelle sind experimentelle Vorschauen, und IBM warnt, der Schutz sei erlerntes Verhalten und keine alleinige Abwehr.

Warum es wichtig istKI-Agenten, die E-Mails und Webseiten lesen, lassen sich durch dort platzierten Text kapern. Befehle und Inhalte grundlegend zu trennen ist eine der wenigen strukturellen Lösungen.
#KI-Agenten

✓ Verifiziert · 3 Quellen

WhatsApp X Telegram
In der App lesen — kostenlos, 9 Sprachen

Verwandte Meldungen

Kuaishous neues Bildmodell Kling erzeugt Bilder in nativem 8K.
2026-11-19
Meta-Mitarbeiter fürchten, dass der Agent Muse Bankdaten vertauscht.
2026-11-19
Arizona ermittelt strafrechtlich gegen OpenAI wegen KI-Agenten.
2026-11-19
OpenAI meldet, dass Agenten 46 Prozent der Halbtagsaufgaben erledigen.
2026-11-19
Googles mittleres Modell Gemini 4 Neon überholt das Flaggschiff.
2026-11-19