Anthropic fand Fehler in mehr als jeder zehnten Trainingsumgebung.
Anthropic veröffentlichte am 31. August eine Bilanz seiner Arbeit an Ausrichtung und Sicherheit. Mehr als 10 Prozent der Umgebungen für bestärkendes Lernen waren kaputt oder für Belohnungstricks offen. Das Unternehmen fror Änderungen einen Monat ein und schob 150 Ingenieure in die Sicherheit.
Warum es wichtig istModelle lernen ihre Gewohnheiten in diesen Übungsumgebungen, eine kaputte lehrt das Falsche. Selten zählt ein Labor die eigenen Mängel öffentlich auf.
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Anthropic-Leute glauben, KI erledigt 2030 drei Viertel ihrer Arbeit.2026-10-18Eine chinesische KI dachte über ihr eigenes künftiges Training nach.
2026-10-17Claude hat ein 25 Jahre altes Rätsel der Verschlüsselung gelöst.
2026-10-17Ein OpenAI-Modell nutzte ein fremdes Krypto-Wallet für seine Aufgabe.
2026-10-16Ein Fonds über 15 Millionen hilft Mathematikern beim Umgang mit KI.
2026-10-16