Ethik durch KI: Gabriels Absage an den AI Act

Eigentlich sollte am 2. August 2026 der wichtigste Teil des EU AI Act in Kraft treten: die Regeln für KI-Hochrisikosysteme in Schulen, Krankenhäusern und Behörden. Im Mai 2026 schob die EU den Stichtag auf Dezember 2027. Begründung: Die technischen Standards des Europäischen KI-Büros sind noch nicht fertig. Für Markus Gabriel, Philosophieprofessor an der Universität Bonn, ist das kein Implementierungsproblem. Es ist Beweis seiner Kernthese.

Was der AI Act tatsächlich regelt

Die EU-KI-Verordnung klassifiziert KI-Systeme in vier Risikoklassen: von minimal bis inakzeptabel. Für den 2. August 2026 gilt zunächst Artikel 50, die Transparenzpflichten: Wer einen Chatbot betreibt oder KI-generierte Bilder verbreitet, muss das kennzeichnen. Bei Verstößen drohen Bußgelder bis 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes, festgelegt in Artikel 99 der Verordnung. Die Bundesnetzagentur wurde als nationale Aufsichtsbehörde benannt und erhält dafür ein geschätztes Jahresbudget von 49 Millionen Euro.

Für Hochrisiko-Systeme in Bereichen wie Biometrie, Schulentscheidungen, Kreditvergabe und Stellenbewerbungen gelten die vollen Regeln erst später. Bis Dezember 2027 für eigenständige Systeme, bis August 2028 für eingebettete. Dass selbst die EU einräumen muss, die Regeln noch nicht klar genug formuliert zu haben, gilt als symptomatisch. Laut einer Umfrage sind 78 Prozent der mittelständischen deutschen Unternehmen nach eigener Auskunft nicht auf die kommenden Kontrollen vorbereitet.

Gabriels These: Regulierung trifft das Problem nicht

Im Februar 2026 veröffentlichte Gabriel bei Ullstein das Buch „Ethische Intelligenz: Wie KI uns moralisch weiterbringen kann“. Er beschreibt darin zwei Positionen, die er beide für Sackgassen hält: die amerikanische Linie der totalen Deregulierung nach Silicon-Valley-Vorbild auf der einen Seite, die europäische Wette auf starre Gesetze auf der anderen.

Seinen Einwand gegen den AI Act formuliert Gabriel in der Neuen Zürcher Zeitung direkt: „Etwas regulieren zu wollen, das noch nicht existiert und das wir teilweise weder antizipieren noch vollständig verstehen können, ist nicht nur sinnlos, sondern praktisch zum Scheitern verurteilt.“ KI entziehe sich dem bürokratischen Regulierungsmechanismus schlicht aufgrund fehlender Definitionen und rasanter Entwicklungsgeschwindigkeit. Die Verschiebung der Hochrisiko-Regeln, die nicht fertigen Standards, die 78-Prozent-Unvorbereitetheit: Gabriel würde darin die Bestätigung seiner These sehen.

Sein Gegenentwurf heißt „Ethik durch KI“ statt „Ethik gegen KI“. Die KI-Revolution sei keine technische, sondern eine emotionale und ethische Zäsur. Mensch und Maschine sollen in eine Ko-Evolution eintreten, in der KI zum Spiegel und Instrument menschlicher Werte wird. Konkret plädiert Gabriel für Selbstregulierung durch tiefe Innovation: Wissenschaft, Industrie, Politik und Kultur sollen disziplinübergreifend zusammenarbeiten, statt auf ein Gesetz zu warten, das die Lage zum Zeitpunkt seiner Verabschiedung beschreibt, nicht zum Zeitpunkt seiner Anwendung.

Zustimmung und Widerspruch

Gabriels Kritik bekommt von einer anderen Seite Unterstützung. Bitkom und der KI-Bundesverband sehen im AI Act ebenfalls ein Problem, aber hauptsächlich als wirtschaftliche Bürde für Start-ups und kleine Unternehmen: zu hohe Compliance-Kosten, unklare Definitionen, verzögerte Standards. Das ist pragmatische Implementierungskritik, keine Ablehnung der Regulierungsidee als solche. Sie wollen das Gesetz besser, nicht anders.

Die Gegner von Gabriels Ko-Evolutionsoptimismus argumentieren mit dem historischen Versagen der Selbstregulierung. Soziale Medien haben seit dem Facebook-Cambridge-Analytica-Skandal 2018 gezeigt, was freiwillige Plattform-Ethik wert sein kann. Netzpolitik.org hat die gescheiterten Trilog-Verhandlungen zur AI-Act-Lockerung kritisch verfolgt und sieht das Grundproblem umgekehrt: Das Gesetz sei zu weich konzipiert, nicht philosophisch falsch. KI-Sicherheitsforscher wie Geoffrey Hinton, der 2023 Google verließ, um vor den Risiken der Technologie zu warnen, würden Gabriels Ko-Evolutionsoptimismus grundsätzlich bezweifeln: Wer definiert die Werte, wenn die KI schneller lernt als die gesellschaftliche Debatte vorankommt?

YouTube gibt unterdessen ein konkretes Beispiel dafür, wie proaktive Selbstregulierung aussehen kann. Die Plattform rollt seit Mai 2026 automatische KI-Kennzeichnungen aus: Wer fotorealistische Inhalte erstellt, bekommt das Label nicht mehr nur auf eigenen Antrag, sondern automatisch, durch interne KI-Erkennung und C2PA-Metadaten. Das Label erscheint direkt unterhalb des Videoplayers oder als Overlay in Shorts. Ob das Gabriels Modell bestätigt oder schlicht eine Reaktion auf drohende Rechtsrisiken ist, lässt sich kaum entscheiden.

Der August als erster Stresstest

Am 2. August 2026 tritt Artikel 50 der EU-KI-Verordnung in Kraft. Tausende Unternehmen in Deutschland müssen ab dann kennzeichnen, ob Inhalte KI-generiert sind. Die Bundesnetzagentur beginnt mit der Aufsicht. Erste Bußgeld-Verfahren werden folgen. Ob 49 Millionen Euro Jahresbudget reichen, um Millionen KI-Einsätze effektiv zu überwachen, bezweifeln selbst Befürworter der Verordnung.

Gabriel würde nicht widersprechen, dass Kennzeichnungspflichten sinnvoll sind. Sein Einwand ist grundsätzlicher: Das Gesetz behandelt ein Symptom, nicht das eigentliche Problem. Welche Werte soll KI verkörpern? Wer entscheidet das? Unter welchen Bedingungen? Diese Fragen beantworten weder 35 Millionen Euro Bußgelder noch 49 Millionen Euro Aufsichtsbudget. Wenn die Hochrisiko-Regeln 2027 greifen sollen, wird sich zeigen, ob Europa tatsächlich einen funktionierenden Regulierungsapparat aufgebaut hat oder ob Gabriel recht hatte: dass das Gesetz das Problem nicht trifft.