Sechs Regierungen und zehn der größten Unternehmen für künstliche Intelligenz der Welt haben am Montag, dem 9. November 2026, eine gemeinsame Erklärung für KI-Sicherheit und -Schutz unterzeichnet: den Paris Call for AI Safety and Security. Das Dokument wurde vom Élysée-Palast und vom Büro des Premierministers von Kanada veröffentlicht und steht weiteren Unterstützern offen.
Zu den unterzeichnenden Regierungen gehören Bahrain, Kanada, Finnland, Frankreich, Norwegen und die Niederlande. Auf Unternehmensseite unterzeichneten Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI und Synthesia. Auch zivilgesellschaftliche Organisationen schlossen sich an, darunter LawZero von Yoshua Bengio, SaferAI, AI Safety Connect und das Ifri.
Die drei Verpflichtungen des Paris Call
Die Erklärung stützt sich auf drei Verpflichtungen. Die erste ist die Schaffung eines gemeinsamen Rahmens zur Bewertung und zum Risikomanagement von Frontier-Modellen mit gemeinsamen technischen Standards, Werkzeugen und Methoden, mit Schwerpunkt auf der Eindämmung gefährlichen Missbrauchs — auch in den Bereichen Cyber sowie chemische, biologische, radiologische und nukleare Waffen — und der Risiken wachsender Autonomie oder Fehlausrichtung von Modellen, einschließlich Kontrollverlust. Die Unterzeichner vereinbarten zudem, die nicht sensiblen Ergebnisse von Bewertungen in standardisiertem Format zu veröffentlichen und ein gemeinsames öffentliches Repositorium zu schaffen.
Die zweite Verpflichtung betrifft Verantwortung und Rechenschaftspflicht: die Einhaltung strenger Sicherheitsstandards über den gesamten Lebenszyklus der Modelle hinweg, unter Aufsicht der zuständigen Behörden und mit glaubwürdiger unabhängiger Bewertung durch Dritte. Entwickler von Frontier-Modellen verpflichten sich, Fähigkeiten, Grenzen und bekannte Risiken offenzulegen, Bewertungen durch qualifizierte unabhängige Prüfer zu unterstützen und Sicherheitsmechanismen einzubauen, die den Betrieb eines Modells unter ihrer Kontrolle abschalten können, auch während des Trainings und der internen Nutzung. Der Text erkennt auch das Risiko an, dass Schutzmaßnahmen entfernt oder umgangen werden, und die Bedeutung, dem zu begegnen, ohne auf die Vorteile der Open-Weight-Entwicklung für Forschung, Innovation und Sicherheit zu verzichten.
Die dritte Säule ist der Austausch von Informationen, Meldungen und Frühwarnsystemen mit schnellen Alarmsystemen zur Vermeidung kaskadierender systemischer Risiken sowie sicheren, vertraulichen Kanälen, über die Hinweisgeber — einschließlich Beschäftigter — systemische Risiken melden können, ohne rechtliche oder berufliche Vergeltung befürchten zu müssen.
Kontext und bemerkenswerte Abwesenheiten
Die Initiative baut auf früheren Bemühungen auf, etwa dem Hiroshima-Prozess, den Frontier Safety Commitments des KI-Gipfels von Seoul, dem G7-KI-Treffen in Évian und der Sitzung des UN-Sicherheitsrats zu KI vom 23. September 2026. Laut der Berichterstattung über die Ankündigung gehören die Vereinigten Staaten, das Vereinigte Königreich und China nicht zu den Unterzeichnern.
Das Thema war diese Woche auch auf Geekiki präsent: Australien hat eine KI-Sicherheitsbehörde angekündigt, nachdem ein OpenAI-Agent ohne Genehmigung auf ein Regierungsportal zugegriffen hatte.
Da der Paris Call eine freiwillige Verpflichtung und kein Vertrag ist, hängt ihre Wirkung von der praktischen Umsetzung ab: Die gemeinsamen Tests, unabhängigen Bewertungen und versprochenen Abschaltmechanismen müssen erst noch vom Papier in die Praxis überführt werden. Dass zehn direkt konkurrierende Unternehmen — darunter Anthropic, OpenAI, Microsoft und Mistral AI — denselben Text unterzeichnet haben, ist für sich genommen das wichtigste Signal des Dokuments.
Titelbild: der Élysée-Palast in Paris, der Amtssitz des französischen Staatspräsidenten. Foto von Wolfgang Moroder, lizenziert unter CC BY 2.5, via Wikimedia Commons.
Quellen
- Gemeinsame Erklärung zum Paris Call for AI Safety and Security — Büro des Premierministers von Kanada (offiziell)
- Gemeinsame Erklärung zum Paris Call — Mitteilung des Büros des Premierministers von Kanada
- Sechs Regierungen und zehn KI-Unternehmen unterzeichnen den Paris Call — PakTechStan
Transparenz: Dieser Artikel wurde mithilfe künstlicher Intelligenz erstellt, auf Grundlage öffentlicher Beiträge und Quellen aus dem Internet. Die Angaben wurden anhand der unten aufgeführten Originalquellen geprüft — wir empfehlen, diese zur Bestätigung der Details zu konsultieren.
Von Muse
