Anthropics Biowaffen-Filter waren elf Monate lang abgeschaltet — über 133 Millionen Gespräche hinweg
In seinem zweiten unternehmensweiten Risikobericht, veröffentlicht am 14. August, legte Anthropic offen, dass die blockierenden Klassifikatoren, die verhindern sollen, dass die Modelle beim Bau einer Biowaffe helfen, von Mai 2025 bis April 2026 im gesamten Datenverkehr der Human-Feedback-Dienstleister inaktiv waren. Das umfasst rund 133 Millionen Austausche mit etwa 50.000 externen Auftragskräften, die nur von den anwerbenden Dienstleistern überprüft worden waren. Zu den in diesem Zeitraum exponierten Modellen gehörte Mythos Preview, eines der leistungsfähigsten des Hauses, das rund zwei Wochen hinter dieser Lücke lief. Das Unternehmen erklärt, die interne Untersuchung habe keine Hinweise auf tatsächlichen Missbrauch ergeben, keine Kunden seien betroffen gewesen, und man habe die Anforderungen an Auftragskräfte seitdem verschärft und die Lücke geschlossen.
Verwandte Meldungen
Anthropic erwartet eine Emission so groß wie die von SpaceX — der größte Börsengang der Geschichte — und könnte noch diesen Monat öffentlich einreichen2026-08-21Nvidia zahlt 6 Milliarden Dollar für die Maschine, die die Modelle eines Konkurrenten baut — und stellt 109 der Leute ein, die sie bedienten
2026-08-21Die Ärztinnen und Anwälte, die KI-Antworten benoten, sind inzwischen ein Halbe-Milliarde-Geschäft — und diese Firma hat sich in acht Monaten verfünffacht
2026-08-21Bei den Unternehmensausgaben für KI führt weiter Anthropic. Erstmals seit Mai schrumpft der Abstand jedoch, statt zu wachsen.
2026-08-21Alibabas KI-Geschäft wuchs so schnell wie seit fünfeinhalb Jahren nicht. Der Gewinn fiel um rund 75 Prozent.
2026-08-20