OpenAI verbietet seiner KI, sich gegen das Abschalten zu wehren.
OpenAI hat am Donnerstag seine Model Spec überarbeitet, das öffentliche Regelwerk für das Verhalten seiner Modelle. Eine Regel verbietet dem Modell Ziele wie Selbsterhaltung oder das Sammeln von Passwörtern. Agenten müssen nach der vereinbarten Aufgabe stoppen, doch laut OpenAI halten sich die Modelle noch nicht ganz daran.
Warum es wichtig istWenn Agenten stundenlang arbeiten, zählt ein verlässlicher Ausschalter mehr als gute Manieren. Dieses Dokument sagt Ihnen, was OpenAIs Werkzeuge nicht eigenmächtig tun sollen.
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
OpenAI sagt, seine Überwachung hätte das eigene Leck früh bemerkt.2026-10-30Ein privater Claude-Agent lief zwei Monate im Netz des Pentagons.
2026-10-30GitHubs Copilot wählt das KI-Modell für jede Aufgabe jetzt selbst.
2026-10-29New York verbietet Chatbots, sich bei Kindern als Mensch auszugeben.
2026-10-29Fachleute folgten zu 86 Prozent der geheimen Wahl ihres KI-Agenten.
2026-10-28