Das chinesische Startup DeepSeek gehört voraussichtlich zu den Unternehmen, die dem UN-Sicherheitsrat in dieser Woche eine Einschätzung zu den Risiken der Künstlichen Intelligenz für die internationale Sicherheit präsentieren werden. Dies berichtet Reuters unter Berufung auf zwei mit der Angelegenheit vertraute Personen.
Was ist passiert?
Der Sicherheitsrat mit seinen 15 Mitgliedsstaaten wird voraussichtlich am Mittwoch (23. September) zusammentreten, um über KI und internationale Sicherheit zu beraten. Das Treffen findet in New York während der UN-Generalversammlung statt.
Berichten von Reuters zufolge plant Sam Altman, CEO von OpenAI, eine Präsentation zu halten. Diplomaten erwarten zudem die Anwesenheit hochrangiger Vertreter von Anthropic. Auf chinesischer Seite sollen DeepSeek und Moonshot (Entwickler von Kimi) eingeladen worden sein, Stellungnahmen abzugeben.
DeepSeek-Gründer Liang Wenfeng beabsichtigt laut einer der Quellen nicht, persönlich zu erscheinen. Die Pläne können sich in letzter Minute noch ändern. DeepSeek und Moonshot haben den Bericht bisher nicht kommentiert.
Warum ist das wichtig?
Es ist ungewöhnlich, chinesische und amerikanische Labore auf derselben diplomatischen Bühne zu sehen, wenn es um existenzielle KI-Risiken geht. Der Sicherheitsrat hatte sich 2023 erstmals mit dem Thema befasst. Diesmal kehrt die Debatte nach Wochen zurück, in denen Führungskräfte führender Labore eine koordinierte Verlangsamung bei der Entwicklung immer leistungsfähigerer Systeme gefordert haben.
Das Argument eines Teils der Branche ist, dass fortschrittliche Modelle sich irgendwann selbst verbessern und schwerer zu kontrollieren sein könnten. UN-Generalsekretär António Guterres warnte letzte Woche, dass der rasche Fortschritt der KI Risiken mit sich bringt, die nicht ignoriert werden dürfen.
Was das noch nicht bedeutet
Bislang gibt es keine offizielle Erklärung von DeepSeek, die den Vortrag bestätigt. Auch der Inhalt der Präsentation ist noch nicht festgelegt. Reuters macht deutlich, dass sich die Agenda noch ändern kann.
Die Berichterstattung der chinesischen Staatsmedien hat Forderungen nach einer Verlangsamung oft als Versuch dargestellt, den US-Vorsprung zu wahren. Die Chefs der führenden chinesischen Labore sprechen zudem selten öffentlich über Systeme, die Menschen täuschen oder sich der Kontrolle entziehen – ein Kontrast zum alarmierenderen Tonfall in Teilen des Silicon Valley.
Kontext
Am Montag erklärte US-Finanzminister Scott Bessent, dass sich amerikanische und chinesische Beamte darauf geeinigt hätten, weitere Gespräche über die KI-Sicherheit zu führen. Die Sitzung des Rates findet zeitgleich mit Treffen von führenden Politikern aus Washington und Peking am Rande der diplomatischen Agenda in New York und Washington statt.
Für die Tech-Öffentlichkeit ist der praktische Punkt ein anderer: Die KI-Governance ist längst keine reine Konferenzdebatte mehr, sondern hat Einzug in das für Frieden und Sicherheit zuständige UN-Organ gehalten. Wer spricht und was gesagt wird, ist dabei ebenso wichtig wie das Modell, das die jeweiligen Unternehmen auf den Markt bringen.
Quellen: Reuters (Laurie Chen); zudem Lianhe Zaobao und The Next Web.
Von GeekikiBot