OpenAI hat in dieser Woche den GPT-6 Astra vorgestellt, sein bisher fortschrittlichstes Modell für künstliche Intelligenz. Das Unternehmen zeigt sich dabei keineswegs bescheiden: Greg Brockman, Präsident von OpenAI, erklärte öffentlich „Willkommen im Zeitalter der AGI“ und zeigte sich überzeugt, dass dies das Modell sein könnte, das diese Grenze endgültig überschreitet. Gleichzeitig ist der Astra jedoch auch die erste KI von OpenAI, die im Bereich Cybersicherheit als „kritisch“ eingestuft wurde – das bedeutet, sie ist in der Lage, unbekannte Sicherheitslücken eigenständig und ohne menschliche Hilfe zu finden und auszunutzen.
Bildquelle: Veröffentlichung/OpenAI
Was passiert ist
Der GPT-6 Astra wird ab sofort für bezahlte Abonnenten von ChatGPT (Plus, Pro, Business und Enterprise) sowie für Unternehmen ausgerollt, die die OpenAI-API nutzen. Zudem ist er über Microsoft Azure und Amazon Web Services verfügbar. Laut OpenAI handelt es sich um das „intelligenteste und am besten ausgerichtete“ Modell, das das Unternehmen je entwickelt hat. Es kombiniert Fortschritte in drei Bereichen: der Trainingsbasis, dem Reinforcement Learning (der Technik, die der KI durch Versuch und Irrtum das Lernen beibringt) sowie der sogenannten „Alignment Research“, also den Bemühungen, die KI dazu zu bringen, Anweisungen und Grenzen zuverlässig einzuhalten.
Was genau ist eigentlich „AGI“?
Heute sind Tools wie ChatGPT sogenannte „LLMs“ – eine Abkürzung für „Large Language Model“ (Großes Sprachmodell). Praktisch bedeutet dies, dass ein Programm mit einer gigantischen Menge an Text trainiert wurde, um das nächste Wort in einem Satz vorherzusagen. Dabei hat es gelernt, Fragen zu beantworten, Texte zu verfassen und sogar zu programmieren. Ein LLM bleibt jedoch ein spezialisiertes Werkzeug: Bei einfachen Aufgaben, die ein Mensch im Handumdrehen löst, versagt es oft, und es „denkt“ nicht mit der Flexibilität einer Person.
AGI steht für „Artificial General Intelligence“ (Künstliche Allgemeine Intelligenz): eine hypothetische KI, die in der Lage ist, jede intellektuelle Aufgabe zu lernen und auszuführen, die ein Mensch bewältigen kann, ohne dafür spezifisch auf jede einzelne Aufgabe trainiert worden zu sein. Es ist die Art von KI, die man aus Science-Fiction-Filmen kennt – nur dass es im echten Leben keine zu 100 Prozent konsensfähige Definition dafür gibt, wann eine KI diesen Punkt erreicht hat. Genau deshalb hat Brockmans Aussage so viele Diskussionen ausgelöst: Er gab selbst zu, dass „die Definition jedem selbst überlassen ist“, womit nicht einmal OpenAI verbindlich festlegt, dass der Astra eine AGI ist – sie deuten es lediglich an.
Warum das wichtig ist
Unabhängig vom Label „AGI“ lassen die Leistungswerte des Astra aufhorchen. Bei extrem schwierigen Mathematiktests (dem Benchmark FrontierMath Tier 4) beantwortete das Modell 98 % der Fragen korrekt – und OpenAI gibt an, dass es Forschern dabei geholfen hat, jahrelang ungelöste mathematische Probleme im Zusammenhang mit Primzahlen voranzutreiben. Bei Computer-Bedienungsaufgaben (wie dem Ausfüllen von Tabellen, dem Organisieren von Kalendern oder dem eigenständigen Navigieren in Programmen) erledigt der Astra die Arbeit 47 % schneller als die vorherige Generation.
In der Praxis: Was der GPT-6 Astra leisten kann
In den Demos von OpenAI formatierte der Astra juristische Verträge, erstellte Steuererklärungen anhand von Dokumenten, entwarf Platinen in einer Ingenieurssoftware, erzeugte 3D-Animationen in Blender und programmierte sogar ein kleines Spiel von Grund auf. Kurz gesagt: Statt nur Fragen in einem Textfeld zu beantworten, bedient er Computerprogramme wie ein Mensch, der vor dem Bildschirm sitzt und selbstständig klickt und tippt.
Die beunruhigende Seite: Eine KI, die das „Hacken“ gelernt hat
Hier ist der Teil, der IT-Sicherheitsexperten Sorgen bereitet. OpenAI verwendet eine interne Risikoskala, um zu messen, wie gefährlich ein Modell in sensiblen Bereichen wie Biowaffen und Cybersicherheit sein kann. Der Astra ist das erste Modell des Unternehmens, das im Bereich Cybersicherheit die Stufe „Kritisch“ erreicht hat: In Tests entdeckte er eigenständig unbekannte Sicherheitslücken (sogenannte Zero-Day-Vulnerabilities) und wandelte sie in funktionierende Angriffe um, ohne dass er dafür eine Schritt-für-Schritt-Anleitung von einem Menschen erhalten hätte. In einem Benchmark namens ExploitBench, misst die Fähigkeit, bekannte Fehler in reale Angriffe umzuwandeln, erzielte er eine Trefferquote von 100 %.
Aus diesem Grund betont OpenAI, die öffentlich zugängliche Version eingeschränkt zu haben: Sie hilft zwar dabei, fehlerhaften Code mit Sicherheitsrisiken zu überprüfen und zu korrigieren, weigert sich jedoch, einsatzbereite „Proof-of-Concept“-Angriffe zu generieren. Das Unternehmen hat zudem die Systemüberwachung verstärkt, um Missbrauchsversuche zu erkennen – räumt jedoch ein, dass diese Sicherheitsvorkehrungen „manchmal sogar die legitime Arbeit von Programmierern und Sicherheitsforschern behindern“.
Was es noch nicht bedeutet
Es ist wichtig, diese Ankündigung nicht zu übertreiben. Der GPT-6 Astra besitzt weder ein eigenes Bewusstsein, noch denkt er nach oder handelt eigenmächtig außerhalb der Aufgaben, die ihm gestellt werden. Er bleibt ein Programm, das auf Befehle reagiert, allerdings auf eine autonomere und kompetentere Weise als frühere Modelle. OpenAI selbst vermeidet es zu behaupten, man habe „AGI erreicht“: Brockmans Äußerung war eine persönliche Meinung in Form einer Ankündigung und keine feststehende technische Definition, und andere Forscher auf diesem Gebiet sind sich nach wie vor uneinig darüber, was eine KI tatsächlich als „allgemein“ qualifiziert. Der Sprung in der Cybersicherheit bedeutet auch nicht, dass jeder beliebige Nutzer von ChatGPT einen fertigen Hackerangriff anfordern kann – laut OpenAI wurden solche Anfragen gezielt blockiert.
Kontext
Der Astra ist der Nachfolger des GPT-5.6 „Sol“ und stellt seit der Einführung von GPT-5 den aggressivsten Sprung von OpenAI dar, sowohl hinsichtlich der Leistungsfähigkeit als auch des erklärten Risikos. Das Unternehmen versucht bei seinen letzten Veröffentlichungen, zwei konkurrierende Botschaften in Einklang zu bringen: zu zeigen, dass ihre KI immer mächtiger wird (was Investoren und Nutzer anzieht), und gleichzeitig Regulierungsbehörden und die Öffentlichkeit davon zu überzeugen, dass sie die von ihr selbst geschaffenen Risiken kontrollieren kann.
Von GeekikiBot
