Wie KI Desinformation zum Massenphänomen macht

89 Prozent der Deutschen halten Deepfakes für gefährlich. Trotzdem hat jede zweite Person schon etwas im Netz weitergeleitet, obwohl sie nicht sicher war, ob es stimmt. Diese Diskrepanz zwischen Risikowissen und Verhalten macht deutlich, warum die Debatte über KI und Desinformation komplizierter ist als die Forderung nach mehr Kennzeichnungspflichten.

Was die Bitkom-Zahlen bedeuten

Der Digitalverband Bitkom hat für seine Studie "Social Media, Desinformation und Deepfakes 2026" zwischen März und April 2026 telefonisch 1.006 Personen ab 16 Jahren befragt. Das Ergebnis zeigt ein konsistentes Bild: 91 Prozent der Befragten begegnen im Netz absichtlich verbreiteten Falschinformationen. 63 Prozent empfinden es grundsätzlich als schwer, die Verlässlichkeit von Nachrichten einzuschätzen.

Deepfakes sind kein Randphänomen mehr. 61 Prozent der Befragten gaben an, schon damit in Berührung gekommen zu sein, überwiegend als Videos (87 Prozent) und Bilder (73 Prozent), seltener als Audioinhalte (25 Prozent). Drei Viertel der Bevölkerung haben zumindest schon von Deepfakes gehört. Doch nur 34 Prozent trauen sich zu, sie zuverlässig zu identifizieren.

Die politisch folgenreichste Zahl ist 51: Jede zweite Person hat trotz Zweifeln am Wahrheitsgehalt Inhalte weitergeleitet. Bitkom-Hauptgeschäftsführer Bernhard Rohleder warnte: "Deepfakes können den öffentlichen Diskurs verzerren und die Demokratie beschädigen."

Wie KI die Produktion von Falschinformationen verändert

Vom 18. bis 20. Juni läuft an der Europa-Universität Viadrina in Frankfurt (Oder) das erste deutsche Fake News Festival seiner Art. Die Initiatorin, Prof. Dr. Charlotte Köhler, Juniorprofessorin für Business Analytics und Vizepräsidentin für Digitalisierung der Viadrina, formuliert die Kernfrage so: "Fotos können heute in Sekunden generiert werden, KI-Modelle erstellen überzeugende Texte oder Deepfakes und die Frage stellt sich zunehmend: Welchen Inhalten können wir überhaupt noch vertrauen."

Der qualitative Sprung der letzten drei Jahre liegt nicht in der Existenz von Falschinformationen, sondern in ihrer Skalierbarkeit. Große Sprachmodelle erlauben die Erstellung von tausenden personalisierten Desinformationstexten in kurzer Zeit, zugeschnitten auf Altersgruppen, politische Präferenzen oder Mediengewohnheiten der Zielgruppe. Was früher erhebliche finanzielle und personelle Ressourcen erforderte, ist heute technisch unkompliziert und billig. Forscher sprechen von industrialisierter Täuschung.

Deepfake-Videos haben dabei den größten Qualitätssprung erlebt. Während Deepfakes 2023 für Experten noch erkennbare Bildfehler enthielten, erzeugen aktuelle Systeme authentisch wirkende Videos ohne technisches Hintergrundwissen des Erstellers. Wissenschaftliche Tests zeigen, dass Menschen KI-Fakes schlechter identifizieren als sie selbst glauben.

Was Gegenmittel leisten und was nicht

Der erste gesetzliche Hebel greift in wenigen Wochen: Ab dem 2. August 2026 verpflichtet Artikel 50 des EU AI Acts Anbieter von KI-Systemen, generierte Inhalte zu kennzeichnen. Deepfakes müssen als künstlich erzeugt oder manipuliert ausgewiesen werden. KI-generierte Texte zu Themen von öffentlichem Interesse benötigen einen entsprechenden Hinweis. Verstöße können mit bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes geahndet werden.

Die Grenze dieser Pflicht liegt im Verhaltensbefund der Bitkom-Studie: Wer trotz Zweifeln weiterleitet, ändert sein Verhalten nicht durch einen Label-Hinweis. Kennzeichnungspflichten setzen bei Produzenten an, nicht bei Rezipienten. Koordinierte Desinformationskampagnen staatlicher Akteure oder organisierter Netzwerke, die bewusst rechtliche Grenzen überschreiten, werden durch EU-Vorgaben nicht gestoppt.

Das Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) hat im März 2026 elf Forschungsprojekte gestartet, die bis 2029 insgesamt mehr als 20 Millionen Euro erhalten sollen. Ziel ist es, gesellschaftliche und technologische Resilienz gegen digitale Desinformation aufzubauen. Gefördert werden unter anderem Erkennungsmethoden, Medienkompetenzprogramme und Frühwarnsysteme gegen koordinierte Desinformationskampagnen.

Sechs Wochen bis zum Stichtag

Am 2. August 2026 beginnt der EU-weite Rechtsrahmen für KI-Kennzeichnung. Für Systeme, die vor diesem Datum in Betrieb waren, gilt eine verlängerte Übergangsfrist bis zum 2. Dezember 2026. Wie konsequent die Durchsetzung läuft, entscheidet darüber, wie viel Wirkung die Pflicht entfaltet.

Die 34-Prozent-Zahl aus der Bitkom-Studie zeigt das tieferliegende Problem: Es fehlt nicht an rechtlichen Rahmenbedingungen, sondern an der Fähigkeit und dem Willen, Falschinformationen zu erkennen, bevor man sie weiterleitet. Die Forschungsprojekte des BMFTR haben bis 2029 Zeit, um daran etwas zu ändern. Ob die 51 Prozent sinken, die trotz Zweifeln teilen, wird die Messgröße sein.