OpenAI hat das Team für katastrophale Risiken aufgelöst — Tage bevor es sein eigenes Modell nicht freigeben konnte

Die Financial Times berichtet unter Berufung auf mit der Sache vertraute Personen, dass OpenAI sein Preparedness-Team Ende Juli aufgelöst hat. Aufgabe der Einheit war zu beurteilen, ob OpenAIs eigene Modelle schweren oder katastrophalen Schaden anrichten können; sie pflegte auch das Preparedness-Framework, nach dem solche Urteile gefällt werden. Die Arbeit zu Biologie und Cyber ging an erfahrene Kräfte in bestehenden Teams, der frühere Leiter Dylan Scandinaro befasst sich nun mit Risiken sich selbst verbessernder Systeme. Mitgründer Greg Brockman sagt, die Sicherheitsarbeit sei „enger in die Modellentwicklung eingewoben" worden. Die Änderung folgte auf die Abgänge von Ethikchefin Chloe Bakalar und Forscher Joshua Achiam. Wenige Tage später, Anfang August, erklärte OpenAI, eine „kritische" Cyberfähigkeit bei seinem kommenden Modell Astra nicht ausschließen zu können — das erste solche Urteil überhaupt unter eben diesem Framework. Es ist die dritte sicherheitsbezogene Gruppe, die OpenAI seit 2024 geschlossen hat, nach Superalignment und dem Mission-Alignment-Team.

✓ Verifiziert · 3 Quellen

Verwandte Meldungen