KI als Fälscherwerkzeug: Südkoreas Deepfake-Verhaftung

Ein Superstar wird öffentlich beschuldigt, eine Beziehung mit einer Minderjährigen geführt zu haben. Als Beweis kursieren Stimmaufnahmen und Chatverläufe. Beide sind vollständig mit KI erzeugt. Als südkoreanische Ermittler das belegen konnten, wurde der Urheber verhaftet. Der Fall zeigt, wohin die Deepfake-Technologie führt: nicht mehr nur in Schlupflöcher pornografischer Fälschungen, sondern mitten in juristische Beweisführung.

Was geschah: Der Fall Kim Soo-hyun

Kim Soo-hyun ist einer der bekanntesten Schauspieler Südkoreas. Sein YouTube-Kanal und seine internationale Fangemeinde machten ihn zu einem der erfolgreichsten Stars der K-Entertainment-Industrie. In diesem Jahr geriet er ins Visier eines Verleumdungsfeldzugs. Der Betreiber des populären YouTube-Kanals Hover Lab, Kim Se-ui, soll nach Ermittlerangaben mithilfe von KI-Tools eine Stimmaufnahme und manipulierte KakaoTalk-Chatverläufe hergestellt haben, die eine Liebesbeziehung zwischen Kim Soo-hyun und der im Jahr zuvor verstorbenen Schauspielerin Kim Sae-ron suggerierten, angeblich zu einem Zeitpunkt, als sie noch minderjährig war.

Die Fälschung hatte Konsequenzen. Berichten zufolge schädigten die verbreiteten Anschuldigungen Kim Soo-hyuns Karriere erheblich und sorgten für psychischen Druck bis hin zu psychiatrischer Behandlung. Kim Soo-hyun räumte eine Beziehung mit Kim Sae-ron ein, betonte jedoch, sie sei zum Zeitpunkt des Beziehungsbeginns volljährig gewesen. Die Stimmaufnahme, die das Gegenteil nahelegen sollte, hat laut Ermittlern mit seiner tatsächlichen Stimme nichts gemein, sie wurde vollständig von einer KI generiert. Kim Se-ui wurde wegen Verleumdung festgenommen.

Warum Südkorea zum Brennpunkt der Deepfake-Krise wurde

Der Fall ist kein Einzelfall in einem technologisch überraschten Rechtssystem. Südkorea kämpft seit 2023 intensiv gegen eine Deepfake-Welle, die in ihrer ersten Welle vor allem als Pornografie-Krise sichtbar wurde. 2024 wurde ein Telegram-Kanal mit über 220.000 Mitgliedern öffentlich, über den systematisch KI-generierte pornografische Bilder von identifizierbaren Frauen und Minderjährigen aus Südkorea verbreitet wurden. Viele Opfer waren Schülerinnen, deren Gesichter aus Klassenfotos auf sexuelle Inhalte montiert wurden.

Südkorea reagierte mit einer der schärfsten Deepfake-Gesetzgebungen weltweit: Ein 2024 verabschiedetes Gesetz stellt nicht nur die Herstellung solcher Inhalte, sondern auch das Speichern und Ansehen unter Strafe. Die Strafen reichen bis zu fünf Jahren Haft. Damit gehört Südkorea zu den wenigen Ländern, die den Konsum als eigenständige Straftat definiert haben.

Der Kim-Soo-hyun-Fall geht darüber hinaus. Dort wurden KI-Fälschungen nicht als Pornografie verbreitet, sondern als scheinbare juristische Belege in einen öffentlichen Diskurs eingebracht, der reale strafrechtliche Konsequenzen hätte haben können. Das ist eine neue Qualität: nicht Unterhaltung und Erniedrigung als Ziel, sondern Strafverfolgung und Rufzerstörung.

Was das für Gerichte und Beweisrecht bedeutet

Die Herausforderung für Justiz und Ermittlungsbehörden ist grundlegend. Klassische Beweisführung vertraut darauf, dass Aufnahmen und Dokumente zu einem spezifischen Zeitpunkt und Kontext gehören. Diese Annahme bricht ein. Stimmkloning ist heute mit kommerziell verfügbaren Werkzeugen möglich, die wenige Minuten Audiomaterial benötigen und täuschend echte Ergebnisse liefern. Chat-Fälschungen setzen noch weniger voraus. Screenshots können mit einfachen Bildbearbeitungstools oder KI-generierten Konversationen erzeugt werden.

In Südkorea war es forensischen Ermittlern möglich, die Fälschungen zu entlarven. Dass das gelang, liegt auch daran, dass echte Vergleichsaufnahmen existierten. Was passiert in Fällen ohne dieses Vergleichsmaterial? Die Antwort ist offen. Rechtsexperten warnen, dass Gerichte weltweit noch keine standardisierten Verfahren haben, um die Echtheit digitaler Beweise zu prüfen, wenn die Fälschungen hochqualitativ sind.

In Deutschland ist der gesetzliche Rahmen noch im Aufbau. Der Bundesrat hat einen Gesetzentwurf eingebracht, der einen neuen Straftatbestand für Deepfake-Verletzungen schaffen soll: § 201b StGB. Er stellt das Erstellen und Verbreiten realistischer KI-veränderter Aufnahmen ohne Zustimmung unter Strafe, wenn Persönlichkeitsrechte verletzt werden. Die vorgesehene Strafe reicht bis zu zwei Jahren Freiheitsstrafe, in schweren Fällen bis zu fünf Jahren. Seit August 2025 liegt der Entwurf im Bundestag. Verabschiedet ist er bis heute nicht.

EU-Transparenzpflichten ab August 2026

Ab dem 2. August 2026 gelten in der gesamten Europäischen Union die Transparenzpflichten der KI-Verordnung. Anbieter und Betreiber von KI-Systemen müssen KI-generierte Inhalte als solche erkennbar machen. Deepfakes von natürlichen Personen müssen mit einem Hinweis versehen werden. Das betrifft Videoplattformen, Social-Media-Anbieter und Inhaltsproduzenten. Die Durchsetzung liegt bei nationalen Behörden und damit auch bei Behörden, die selbst noch keine Verfahren für die forensische Analyse solcher Inhalte aufgebaut haben.

Rechtsexperten sehen die EU-Transparenzpflicht als notwendig, aber nicht hinreichend. Wer absichtlich fälscht, wird keine Kennzeichnung anbringen. Der Fall Kim Soo-hyun illustriert das: Der Fälscher hatte kein Interesse daran, das Material als KI-generiert zu deklarieren. Der Schaden entstand durch die Verbreitung und wurde durch die Anfälligkeit des öffentlichen Diskurses für scheinbar authentische Belege verstärkt.

Südkorea ist weder Ausnahme noch Ausreißer. Der Fall beschreibt eine technologische Eskalation, die in jedem anderen Land genauso auftreten kann. Die Frage, ob Gerichte in der Lage sind, KI-Fälschungen als solche zu erkennen, bevor sie Schaden anrichten, ist unbeantwortet.