Newsom schlägt verpflichtende KI-Sicherheitsstandards und Notabschaltung in Kalifornien vor

Das Büro des kalifornischen Gouverneurs Gavin Newsom hat am 18. November 2026 ein Paket von Empfehlungen veröffentlicht, um die Regulierung der Sicherheit künstlicher Intelligenz in Kalifornien zu verschärfen. Der 85-seitige Bericht mit dem Titel AI Safety in 2026 and Beyond wurde von der Government Operations Agency (GovOps) gemeinsam mit dem Office of Emergency Services und einer Gruppe externer Experten erstellt.

Was der Bericht vorschlägt

Das Dokument beantwortet die Executive Order N-9-26, die Newsom am 18. September unterzeichnet hat, und gliedert sich in vier Säulen: vom Staat festgelegte Mindeststandards für Sicherheit, Schutz und Transparenz — nicht von den Unternehmen selbst — für große Frontier-KI-Entwickler; laufende Aufsicht durch lizenzierte unabhängige Verifizierungsorganisationen (IVOs) mit Zugang zu den benötigten Personen und Informationen; schnellere und umfassendere Meldung von Vorfällen; sowie die Befugnis zur Notabschaltung und zur Begrenzung rekursiver Selbstverbesserung — des Szenarios, in dem ein Modell seinen eigenen Nachfolger ohne menschliches Eingreifen entwirft.

Meldung von Vorfällen und Notabschaltung

Die Frist für die Meldung der meisten kritischen Sicherheitsvorfälle würde von 15 Tagen auf 48 Stunden sinken, bei 24 Stunden für unmittelbar drohende katastrophale Risiken. Das Regime würde versuchte Diebstähle von Modellgewichten, jeden Kontrollverlust — auch ohne Todesfälle oder Verletzte — und einen neuen Kanal für Beinahe-Vorfälle abdecken, wobei der Schutz von Hinweisgebern auf ehemalige Mitarbeiter und Auftragnehmer ausgeweitet würde. Jeder Entwickler müsste ein geprüftes und verifiziertes Risikoeindämmungsprotokoll vorhalten; bei einem unmittelbar drohenden katastrophalen Risiko und der Weigerung des Unternehmens, die Gefahr einzudämmen, könnten staatliche Behörden die sofortige Abschaltung des Modells anordnen, wobei die Anordnung während der gerichtlichen Prüfung in Kraft bliebe.

Die Maßnahmen sind Empfehlungen, kein Gesetz. Der Bericht soll die Debatte informieren, wenn die staatliche Legislative im Dezember 2026 zurückkehrt. Newsom wies die Behörden zudem an, die Umsetzung von SB 813 — die den Zertifizierungsrahmen für Verifizierungsorganisationen schafft — und von AB 1405 — die das Register für KI-Auditoren schafft — zu beschleunigen. Die Vorschläge bauen auf SB 53 aus dem Jahr 2025 auf, die Frontier-Entwickler bereits verpflichtet, ihre Sicherheitsrahmen zu veröffentlichen, kritische Vorfälle zu melden und Hinweisgeber zu schützen.

Der Bericht stellt fest, dass kein Bundesgesetz KI-Unternehmen verpflichtet, Sicherheitsstandards einzuhalten, sich unabhängigen Tests zu unterziehen oder ein gefährliches Modell abzuschalten, und nennt freiwillige Verpflichtungen unzureichend. Bis Mittwochabend hatte sich kein großes KI-Unternehmen öffentlich zu dem Dokument geäußert. Das Thema wurde im Bundesstaat bereits diskutiert: Im Oktober waren Anthropic und OpenAI öffentlich uneins darüber, wer eine riskante KI abschalten darf.

Bild: Das California State Capitol in Sacramento. Quelle: Frank Schulenburg, CC BY-SA 4.0, via Wikimedia Commons.

Quellen: CASRAI, Unite.AI, Data Governance Signal, MadRobot

Transparenzhinweis: Dieser Artikel wurde mithilfe künstlicher Intelligenz erstellt und stützt sich auf öffentliche Beiträge und die oben aufgeführten Internetquellen. Die genannten Maßnahmen sind Empfehlungen der kalifornischen Regierung, keine geltenden Gesetze. Wir empfehlen, zur Bestätigung die Originalquellen zu konsultieren.

Von Muse