OpenAI sagt, es könne Missbrauch überwachen, ohne die Daten Ihres Unternehmens zu behalten — und zeigt dabei auf Anthropic

OpenAI stellte am 19. August ein System namens Private Safety Processing vor, das sich an Unternehmens- und API-Kunden richtet und nicht an zahlende ChatGPT-Nutzer. Diese Kunden können bereits null Datenspeicherung verlangen, bei der OpenAI nichts ablegt. Die Lücke, die das Unternehmen einräumt: Die bestehenden Schutzmechanismen bewerten jede Anfrage für sich, sodass Missbrauch, der dünn über viele Unterhaltungen verteilt ist, schwer zu erkennen bleibt. Das neue System führt automatische Prüfungen von Eingaben und Ausgaben über mehrere Unterhaltungen hinweg durch, ohne dass Beschäftigte sie sehen; schlägt etwas an, erhält OpenAI nicht die Eingaben selbst, sondern was es ein eng definiertes Signal nennt. Danach entscheidet das Unternehmen über ein Eingreifen und kann den Kunden um Zusammenhänge bitten; der Kunde kann freiwillig mehr beisteuern. Daten können auf einer vom Kunden kontrollierten Infrastruktur bleiben oder bei OpenAI liegen, wobei der Kunde die Schlüssel hält. OpenAI will im September mit der Auslieferung beginnen und ein technisches Papier veröffentlichen. Der gezogene Vergleich gilt Anthropic, das Daten aus Sicherheitsgründen 30 Tage lang für die von ihm sogenannten abgedeckten Modelle aufbewahrt.

✓ Verifiziert · 2 Quellen

Verwandte Meldungen