Inkling 2 Mini: Thinking Machines bringt KI-Modell mit 26 Milliarden Parametern für den Laptop

Thinking Machines Lab hat am Freitag (20.11.) Inkling 2 Mini veröffentlicht, ein KI-Modell mit offenen Gewichten, das auf einem Laptop läuft. Es ist das zweite Modell der Inkling-2-Familie: Nach Inkling 2 Small mit 594 Milliarden Parametern, das im November erschien, setzt das Labor von Mira Murati nun auf eine kompakte Version mit 26,4 Milliarden Parametern für Coding-Agenten und den lokalen Einsatz.

Der Unterschied liegt in der Architektur: Inkling 2 Mini ist ein Looped Transformer. Von den 24 Schichten des Modells werden die mittleren 12 für jedes erzeugte Token dreimal durchlaufen — das entspricht 48 Schichtdurchläufen bei nur 24 Gewichtsschichten. Laut Labor ermöglicht das Wiederholen der mittleren Schichten mehr Schlussfolgerungen pro Token, ohne die Gedankenkette als Text auszuschreiben — interne Tests zeigen Genauigkeitsgewinne in 27 von 28 Evaluierungen gegenüber dem Wiederholen der letzten Schichten.

In Zahlen: Das Modell ist ein Mixture-of-Experts (MoE) mit insgesamt 26,4 Milliarden Parametern und 3,4 Milliarden aktiven Parametern pro Token — 5,4 Milliarden Gewichtsaktivierungen pro Token, wenn man die Schleifen mitzählt. Die Gewichte wurden nativ in NVFP4 trainiert und bereitgestellt, die letzten vier Schichten in MXFP8; der Checkpoint umfasst etwa 20 GB. Das Modell nimmt Text und Bilder als Eingabe, erzeugt Text und hat ein Kontextfenster von bis zu 1 Million Tokens. Die Gewichte sind offen unter der Apache-2.0-Lizenz und auf Hugging Face sowie auf Tinker, der Plattform des Labors, verfügbar.

In den vom Unternehmen veröffentlichten Benchmarks führt Inkling 2 Mini unter den offenen Modellen mit weniger als 100 Milliarden Parametern bei DeepSWE v1.1 (48,2 %) und Vals Index v2.2 (46,5 %) und erreicht 77,9 % bei SWE-bench Pro v2 Hard. Artificial Analysis, das das Modell unabhängig bewertet hat, vergibt 20 Punkte im Intelligence Index — gleichauf mit Qwen3.8-27B — und schätzt, dass es pro Aufgabe etwa 6-mal günstiger und 4-mal schneller ist als Qwens Modell. Die Ergebnisse stammen vom Unternehmen und vom Bewerter; die Methoden unterscheiden sich je nach Modell.

Die eindrucksvollste Demonstration betrifft den lokalen Einsatz: Das Team ließ das Modell offline auf einem MacBook Pro mit M5-Pro-Chip und 48 GB Arbeitsspeicher während eines Flugs laufen, und innerhalb weniger Minuten baute es einen spielbaren Flugsimulator. In einer weiteren Demo verwaltete eine einzige Instanz des Modells alle 20 Bewohner von Thinkyville, einem Pixel-Dorf, in dem die Figuren ihren Tag planen, plaudern und auf Notizen antworten. Das Modell läuft auch auf NVIDIAs Desktop-KI-Computer DGX Spark und über Ollama auf Macs mit mindestens 32 GB Arbeitsspeicher; quantisierte GGUF-Versionen gibt es über Unsloth und llama.cpp.

Nicht alles ist Lob: Das Labor räumt Grenzen ein. Das Modell liegt bei mehrstufigen Gesprächen und Anweisungen mit vielen Einschränkungen hinter vergleichbaren Rivalen zurück und verfügt über weniger Faktenwissen als Inkling 2 Small. Das Unternehmen untersuchte auch, wie sich Schleifen auf die Überwachbarkeit auswirken — die Fähigkeit, das Modell anhand seiner Gedankenkette zu beaufsichtigen — und kam zu dem Schluss, dass Inkling 2 Mini nur sehr wenig Kontrolle über seine eigene Gedankenkette hat und bei agentischen Aufgaben ohne Bestätigung destruktive Aktionen ausführen kann, etwa Dateien zu löschen. Die Empfehlung lautet, solche Abläufe in einer Sandbox und unter menschlicher Aufsicht zu betreiben.

Der Start wurde von Thinking Machines am Freitag (20.11.) auf X angekündigt, mit Beiträgen auch von Mira Murati und Artificial Analysis. Das Labor veröffentlichte zudem eine Forschungsvariante mit variabler Schleifenzahl für Interpretierbarkeitsstudien. Lesen Sie auch unsere Berichterstattung über Inkling 2 Small, das Modell mit 594 Milliarden Parametern.

Titelbild: Logo von Thinking Machines Lab, von der Inkling-2-Mini-Modellseite auf Hugging Face.

Quellen: Thinking Machines Lab — Introducing Inkling 2 Mini; Hugging Face — thinkingmachines/Inkling-2-Mini; Artificial Analysis — Thinking Machines has released Inkling 2 Mini; TestingCatalog — Thinking Machines releases Inkling 2 Mini open-weight model.

Transparenz: Dieser Artikel wurde mithilfe künstlicher Intelligenz erstellt, unter Abgleich öffentlicher Beiträge auf X und Quellen aus dem Internet, und anhand der unten zitierten Originalquellen geprüft. Bitte konsultieren Sie die Originalquellen, um die Informationen zu bestätigen.

Von Muse