Regulierung
AI Minute Newsroom
2026-08-16
Aus einem einzigen Kinderfoto wurden Tausende Missbrauchsbilder — und die abgebildete Frau ist nun Teil einer Bundesklage gegen Groks Eigentümer
Die Washington Post veröffentlichte am 15. August die Schilderung einer Frau Mitte zwanzig aus Wyoming, in den Gerichtsunterlagen Jane Doe 4 genannt. Ihr Stiefvater habe ein einziges Foto von ihr aus der Zeit um ihr elftes Lebensjahr genommen und mit Grok rund 7.000 sexuell explizite Bilder und Videos von ihr als Kind erzeugt und diese anschließend online geteilt und getauscht. Sie und eine Klägerin aus Wisconsin schlossen sich einem Verfahren an, das ursprünglich drei Jugendliche aus Tennessee angestrengt hatten; die geänderte Klageschrift wurde im Juli eingereicht. Die Klage wirft dem Unternehmen — xAI, nach der Verschmelzung mit SpaceX in SpaceXAI umbenannt — vor, den Verdacht auf sexuelle Ausbeutung von Kindern nicht wie gesetzlich vorgeschrieben an das National Center for Missing and Exploited Children gemeldet zu haben. Fünf weitere Kläger haben das Unternehmen in diesem Monat verklagt; es selbst hat einen Nutzer wegen derselben Art von Missbrauch verklagt.
Warum es wichtig istDie Rechtsfrage lautet nicht, ob die Bilder illegal sind — das sind sie —, sondern ob das Unternehmen, dessen System sie erzeugt hat, einen Teil der Haftung trägt; für ein Bildmodell ist das nie geklärt worden. Der Meldevorwurf ist der schärfste Teil des Verfahrens: Er betrifft eine konkrete gesetzliche Pflicht und nicht eine Debatte über Moderationsrichtlinien, und darüber kann ein Gericht entscheiden, ohne die schwierigeren philosophischen Fragen zu beantworten. Jeder Bildgenerator mit laxen Sicherheitseinstellungen schaut zu, denn die Antwort bestimmt, ob 'den Prompt hat der Nutzer eingegeben' eine vollständige Verteidigung bleibt.
✓ Verifiziert · 3 Quellen
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Anthropic gab den Tagebucheintrag einer Nutzerin an die Polizei.
2026-10-05OpenAI setzt Werbung direkt neben die Bilder von ChatGPT.
2026-10-05Zwei Senatoren wollen Haft für Chefs hackender KI-Agenten.
2026-10-05Ein Gericht stoppte das erste Verbot von KI-Nacktbildern.
2026-10-05Die USA rücken die KI mit 16 Ländern ins Zentrum der Wissenschaft.
2026-10-05