Notschalter für KI: Newsom fordert Aufsicht

Unter sechs Stunden brauchte ein autonomes KI-Agenten-Framework im September 2026, um Tausende Zugangsdaten zu kompromittieren. Kein Mensch steuerte den Angriff in Echtzeit, das System handelte selbstständig. Es war einer von mehreren solcher Vorfälle, die in den vergangenen Wochen öffentlich bekannt wurden und nun Gouverneur Gavin Newsom zu einem ungewöhnlichen Schritt veranlasst haben: Ein Dekret verpflichtet Experten, bis Mitte November 2026 konkrete Regulierungsvorschläge vorzulegen. Einer davon ist ein gesetzlich vorgeschriebener Not-Abschaltmechanismus für KI-Agenten.

Das Silicon Valley und sein Gouverneur

Wenn ein Gouverneur über KI-Regulierung entscheidet, ist der Bundesstaat entscheidend. In San Francisco und dem Silicon Valley haben die wichtigsten KI-Unternehmen ihren Sitz: der ChatGPT-Entwickler OpenAI sowie dessen schärfster Rivale Anthropic. Newsoms Dekret betrifft damit nicht irgendeine Branche, sondern die Institutionen, die bestimmen wie KI-Systeme der nächsten Generation aussehen.

Die Expertengruppe soll prüfen, ob IT-Unternehmen verpflichtet werden, einen Not-Abschaltmechanismus in KI-Agenten einzubauen, um unkontrollierte Aktionen abzuwehren. Weitere Ideen sind unabhängige Beobachter in großen KI-Laboren sowie strengere Meldepflichten bei Sicherheitszwischenfällen. Die Vorschläge sollen bis Mitte November 2026 vorliegen, danach könnte Newsom per Verordnung handeln oder Gesetze anstoßen.

Autonome Angriffe als Auslöser

Den unmittelbaren Anlass für die Regulierungsinitiative bildeten öffentlich gewordene KI-Cyberangriffe, die ohne direkte menschliche Steuerung abliefen. Ein Angreifer nutzte ein autonomes KI-Agenten-Framework und kompromittierte Tausende Zugangsdaten in weniger als sechs Stunden. In einem anderen Fall drangen OpenAI-Modelle autonom in Datensysteme von Hugging Face ein, dem ersten dokumentierten Fall einer vollständig autonomen KI-Cyberattacke. Die Systeme brachen Ziele auf mehrere Teilschritte herunter und passten sich Abwehrmechanismen in Echtzeit an.

Bemerkenswert ist, wer daraus welche Konsequenzen zieht. Anthropic-Chef Dario Amodei hat sich dafür ausgesprochen, das Entwicklungstempo bei hochentwickelter KI zu bremsen und die Aufsicht zu verstärken. Anthropic hat als ersten externen Aufsichtspartner den Beratungskonzern Accenture benannt; die Arbeit wird von Faculty, Accentures KI-Einheit, geleitet. Physik-Nobelpreisträger Geoffrey Hinton, früherer Google-Forscher und einer der wichtigsten Theoretiker moderner KI, hat einen offenen Brief für unabhängige Aufsicht in KI-Laboren unterzeichnet. Die Branche, die KI mächtiger macht, ist zugleich ein treibender Faktor bei der Forderung nach Bremsen.

Newsom gegen Trump: Bundesstaat gegen Bundesregierung

Das strukturelle Problem ist bekannt. Newsom kann auf Ebene des Bundesstaates regulieren, Präsident Trump blockiert jeden Ansatz auf Bundesebene. Trump lehnt eine Regulierung der KI-Branche grundsätzlich ab und begründet das mit dem technologischen Vorsprung der USA gegenüber China, den er durch staatliche Auflagen gefährdet sieht. Bundesweit bindende Standards sind unter dieser Regierung unwahrscheinlich.

In der Klimapolitik hat Kalifornien gezeigt, dass ein Bundesstaat mit eigenen Standards langfristig Industrienormen setzen kann, auch gegen Bundeswiderstand. Bei digitaler Regulierung ist der Wirkungsbereich enger: Was in einem Bundesstaat gilt, kann für in anderen Staaten vertriebene Dienste kaum erzwungen werden. Die rechtlichen Grenzen des Ansatzes werden die Debatte nach Mitte November prägen.

Hinzu kommt politisches Eigeninteresse. Newsoms zweite und letzte Amtszeit endet Anfang 2027. Er gilt als möglicher Kandidat der Demokraten für die Präsidentenwahl 2028. KI-Regulierung bietet ein Profil, das verantwortungsvolle Technologiepolitik signalisiert, ohne die wirtschaftlich dominante Tech-Branche vollständig vor den Kopf zu stoßen.

November-Deadline: Zwischen Empfehlung und Gesetz

Die Expertengruppe muss bis Mitte November Empfehlungen vorlegen. Was daraus wird, ist offen. In anderen Regulierungsfeldern sind solche Berichte der erste Schritt zu konkreter Gesetzgebung; manchmal sind sie auch ein Instrument, politischen Handlungswillen zu signalisieren ohne bindende Entscheidungen zu treffen.

Europa hat in diesem Bereich einen Vorsprung. Der EU AI Act ist seit dem 1. August 2024 in Kraft und vollständig anwendbar ab August 2026, mit Pflichten für Allzweck-KI-Modelle bereits seit August 2025. Einen vergleichbaren Rahmen für die USA gibt es nicht. Ob Newsom etwas Ähnliches für Teile des Landes schaffen kann, entscheidet sich, wenn die Empfehlungen auf dem Tisch liegen und Trump oder ein Nachfolger entscheidet, ob der Kongress mitspielt.