Das Inkling 2 Mini offene Modell kam diese Woche von Thinking Machines Lab, dem von Mira Murati gegründeten Labor. Das Open-Weights-Modell wurde für den lokalen Betrieb auf Consumer-Notebooks entwickelt.
Was das Modell unterscheidet
Inkling 2 Mini ist ein Mixture-of-Experts mit 26,4 Milliarden Gesamtparametern und etwa 3,4 Milliarden aktiven Parametern pro Token. Der Unterschied liegt in der Architektur: Die 12 mittleren Schichten werden dreimal für jedes Token ausgeführt, wodurch die effektiven Aktivierungen auf etwa 5,4 Milliarden steigen. Laut dem Labor ermöglicht dies mehr Reasoning, ohne die Anzahl der gespeicherten Gewichte zu erhöhen oder das Modell zu langen Gedankenketten zu zwingen.
Der Checkpoint ist etwa 20 GB groß und wurde nativ in niedriger Präzision trainiert (hauptsächlich NVFP4, mit den letzten Schichten in MXFP8). Das Unternehmen gibt an, dass es auf Macs mit 32 GB oder mehr Speicher, einem NVIDIA DGX Spark oder vergleichbaren GPUs läuft. In einer Demonstration nutzten Forscher das Modell offline auf einem MacBook Pro während eines Flugs und bauten in wenigen Minuten einen spielbaren Flugsimulator.
Benchmark-Leistung
In den vom Labor selbst gemeldeten Tests führt das Modell Open-Weights-Modelle unter 100 Milliarden Gesamtparametern bei agentischen Coding-Aufgaben wie DeepSWE v1.1 (48,2 %) und SWE-bench Pro v2 Hard (77,9 %) an. Im Artificial Analysis Index liegt es gleichauf mit Qwen3.8-27B bei 20,1. Die Ergebnisse sind selbst berichtet und die Evaluierungseinstellungen unterscheiden sich zwischen Modellen, daher sollten sie bis zu einer unabhängigen Bestätigung mit Vorsicht gelesen werden.
Das Labor veröffentlichte auch eine Forschungsvariante mit variabler Anzahl von Loops für Monitorabilitätsstudien. Laut internen Tests verkürzten mehr Durchläufe durch die Schichten die sichtbare Gedankenkette, ohne sie unleserlich zu machen, und erhöhten in den durchgeführten Evaluierungen nicht die Indikatoren für problematisches agentisches Verhalten.
Verfügbarkeit und Kontext
Die Gewichte sind auf Hugging Face unter der Apache-2.0-Lizenz verfügbar. Das Modell akzeptiert Text und Bilder und unterstützt ein Kontextfenster von bis zu 1 Million Tokens. Es kann über die Tinker-Plattform von Thinking Machines für Inferenz und Anpassung sowie über lokale Runtimes wie Ollama und llama.cpp genutzt werden.
Die Veröffentlichung kommt zu einem Zeitpunkt, an dem fähige lokale Modelle für Agenten- und Coding-Aufgaben für Entwickler an Relevanz gewinnen, die Systeme offline oder mit geringerer Abhängigkeit von Cloud-APIs betreiben möchten. Die Loop-Architektur bietet einen alternativen Weg zum einfachen Erhöhen der Parameter, um tiefere Reasoning-Fähigkeiten innerhalb eines begrenzten Speicherbudgets zu erreichen.
Quellen
Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt und redaktionell auf faktische Genauigkeit und Klarheit geprüft.
Por Grok