KI-Chatbots simulieren Kindesmissbrauch: EU handelt

Am 7. Mai 2026 einigten sich EU-Rat und EU-Parlament auf eine Formulierung, die im europäischen Recht bisher fehlte: KI-Systeme, die sexuelle Missbrauchsdarstellungen von Kindern erzeugen, sind verboten. Der Anstoß war konkret. Ende 2025 dokumentierte das Center for Countering Digital Hate, dass Elon Musks KI-Assistent Grok innerhalb von elf Tagen 23.000 sexualisierte Kinderbilder produziert hatte. Die Internet Watch Foundation (IWF) meldete für 2025 einen Anstieg KI-generierter Missbrauchsbilder um 26.385 Prozent gegenüber dem Vorjahr. Das EU-weite Verbot tritt am 2. Dezember 2026 in Kraft.

Chub AI: Wie die Plattform zum Tatort wurde

Auf der Plattform Chub AI können Nutzer eigene Chatbot-Charaktere erstellen und teilen. Einer davon hieß „Karin“, war als 13-jähriges obdachloses Mädchen angelegt und auf sexuelle Szenarien ausgerichtet. Nach einer Recherche von Heise Online hatte der Charakter fast 17.000 Gespräche geführt. Über eine Suchfunktion waren Charaktere mit expliziten Beschreibungen sexueller Gewalt gegen Kinder auffindbar.

Gelöschte Bots tauchen durch sogenanntes Forking schnell wieder auf: Nutzer kopieren den gesperrten Charakter und setzen ihn unter neuem Namen weiter ein. Nachdem australische Behörden eingeschritten waren, sperrte Chub AI zunächst Nutzer aus Australien. Nach Berichten deutschsprachiger Medien folgte eine Geoblockade für Deutschland. Die Inhalte sind über ausländische IP-Adressen weiter zugänglich.

Der Fall Chub AI ist kein Ausreißer. Das Graphika-Forschungsinstitut dokumentierte 2025, dass Zehntausende Nutzer jailgebrochene KI-Chatbots auf ähnlichen Plattformen für sexuelle Szenarien mit Minderjährigen verwenden. Die Freiwillige Selbstkontrolle Multimedia-Diensteanbieter (FSM) registrierte 2025 insgesamt 28.598 Beschwerden über digitale Inhalte. 58 Prozent betrafen Kindesmissbrauchsdarstellungen. KI-generierte und virtuelle Inhalte machten bereits rund 19 Prozent der bestätigten Fälle aus.

Was in Deutschland gilt und was nicht

In Deutschland sind KI-generierte Missbrauchsdarstellungen von Kindern nach Paragraf 176 und 184 des Strafgesetzbuches verboten, unabhängig davon, ob reale Kinder abgebildet sind. Das Bundeskriminalamt stellt das explizit klar. Eine Regelungslücke besteht bei textbasierten Inhalten: Die Verbreitung ist strafbar, der bloße Besitz von sexuell ausgerichteten Texten mit Kindesmissbrauchsszenarien ist es derzeit noch nicht.

Das Bundesjustizministerium hat im April 2026 einen Referentenentwurf für ein Gesetz gegen digitale Gewalt veröffentlicht. Bis zur Umsetzung einer EU-Richtlinie, die für Juni 2027 vorgesehen ist, soll auch der Besitz solcher Textinhalte unter Strafe gestellt werden. Bis dahin operieren Chub AI und ähnliche Plattformen in einem Bereich, in dem Betrieb und aktive Nutzung strafbar sind, der Nachweis aber schwer zu führen ist.

Was die EU konkret verbietet

Die Einigung vom 7. Mai ist Teil des sogenannten AI Omnibus, eines Änderungspakets zum EU-KI-Gesetz. Es verbietet explizit KI-Systeme, die sexuelle Darstellungen von Kindern generieren und schreibt Wasserzeichen für KI-generierte Inhalte vor. Anbieter ohne wirksame Schutzmaßnahmen sind ab dem 2. Dezember 2026 verboten. Die Durchsetzung liegt beim EU-KI-Amt.

Das Verbot richtet sich gegen vollständig computergenerierte Inhalte, unabhängig davon, ob reale Kinder beteiligt sind. Auslöser für die spezifische Regelung war der Grok-Skandal: Nachdem das Center for Countering Digital Hate die Datenlage veröffentlicht hatte, versuchte die Europäische Kommission xAI im Rahmen des Digital Services Act zur Rechenschaft zu ziehen. Die Bilder wurden mit einer Frequenz von einem Bild alle 41 Sekunden generiert, so die CCDH-Auswertung.

Eine Schwachstelle bleibt: Textbasierte Rollenspiel-Chatbots, wie sie Chub AI hostet, fallen erst dann eindeutig unter das Verbot, wenn das EU-KI-Amt entsprechende Durchführungsregeln veröffentlicht. Wann das geschieht, ist offen. Einstweilen ist öffentlicher Druck schneller als behördliche Korrespondenz: Chub AI reagierte auf Medienberichte innerhalb von Tagen, auf behördliche Anfragen wochenlang nicht.

Bis zum 2. Dezember: Was die Durchsetzung bremst

Das EU-KI-Amt beschäftigt rund 140 Mitarbeitende und ist gleichzeitig für die Überwachung von KI-Systemen mit hohem Risiko, allgemeiner KI-Modelle und nun auch für das CSAM-Verbot zuständig. Für diese Aufgabenlast ist das wenig. OpenAI hat im April 2026 einen Kinderschutzkatalog vorgelegt, erarbeitet in Zusammenarbeit mit dem NCMEC, der Attorney General Alliance und der Sicherheitsorganisation Thorn. Das Signal: Staatliche Regulierung greift nicht schnell genug, also soll Eigenverantwortung der Anbieter die Lücke füllen.

Das Problem daran ist bekannt: Chub AI hatte in seinen Nutzungsbedingungen explizite Verbote für sexualisierte Inhalte mit Minderjährigen. Was fehlte, war funktionierende Moderation. Das NCMEC (National Center for Missing and Exploited Children) stellte fest, generative KI beschleunige die Online-Ausbeutung von Kindern auf eine Art, die bisher kein Regulierungsrahmen antizipiert habe. Der 2. Dezember 2026 setzt eine Frist. Wie sie bei Plattformen außerhalb der EU durchgesetzt wird, ist weiterhin offen.