OpenAI riegelt Astra ab — das erste Modell, das es vom 'kritischen' Cyberrisiko nicht freisprechen kann

OpenAI teilte mit, dass interne Bewertungen des kommenden Astra-Modells so starke Fähigkeiten in agentischem Programmieren und Cybersicherheit zeigten, dass das Unternehmen eine 'kritische' Cyberfähigkeit nach seinem Preparedness Framework nicht mehr ausschließen kann — eine Premiere. Nach dieser Definition könnte ein Modell funktionierende Zero-Day-Exploits in gehärteten realen Systemen finden oder aus einem groben Ziel heraus Angriffe von Anfang bis Ende ohne menschliche Hilfe durchführen. Als Reaktion pausiert OpenAI interne Astra-Nutzungen ohne Schutzmaßnahmen, verlegt das Modell in isolierte Umgebungen mit beschränktem Netzzugang, verschlüsselt die Modellgewichte und zieht Behörden und Sicherheitsorganisationen für weitere Tests hinzu.

✓ Verifiziert · 3 Quellen

Verwandte Meldungen