Das dänische Startup Sevren hat Embla 1 vorgestellt, ein Reasoning-Modell, das direkt auf dem Handy läuft — privat, offline und kostenlos pro Anfrage. Nach Angaben des Unternehmens antwortet das Modell auf einem iPhone 18 Pro in 1,77 Sekunden, ohne Daten in die Cloud zu senden.
Der Name verweist auf Embla, die erste Frau der nordischen Mythologie, so Øresund Startup News — ein Hinweis darauf, dass es das erste Modell dieser Art ist, das das Unternehmen gebaut hat.
Was Embla 1 ist
Embla 1 ist ein Mixture-of-Experts-Modell mit 10 Milliarden Parametern, von denen nur etwa 1 Milliarde pro Token aktiv sind. Es hat 32 Schichten und wurde von Grund auf für Handy-Hardware entwickelt, statt als verkleinerte Version eines Servermodells. Das Pretraining nutzte 1,4 Billionen Token und destillierte aus einem größeren Modell der Qwen-Familie; trainiert wurde auf 16 Knoten mit je 8 H100-GPUs.
Damit es aufs Handy passt, nutzt Sevren eigene Sparse Attention, gemeinsame Caches zwischen den Schichten und eine „Engram“-Tabelle, die verhindert, dass ein Teil des Modells bei jedem Token neu berechnet wird — Techniken, die im Beitrag zur Architektur von Embla 1 im Detail beschrieben sind.
Leistung: Sevren's eigene Zahlen
In den Tests des Unternehmens erreichte Embla 1 mit 4 Bit im Schnitt 57,4 über fünf Benchmarks (BFCL, IFBench, AA-Omniscience, GPQA und MATH-500) und antwortete auf dem iPhone 18 Pro in 1,77 Sekunden Ende-zu-Ende — mit Sevren's eigener Metal-Implementierung, 2,18 Sekunden unter llama.cpp. Das Unternehmen gibt an, dass die besser bewerteten Modelle auf demselben Handy mindestens doppelt so lange brauchten.
Das sind Sevren's eigene Messungen, auf einem einzigen Handy und mit einer Unsicherheit von etwa ±1 Punkt — bislang ohne unabhängige Überprüfung. Und es gibt eine Schwäche, die das Unternehmen selbst einräumt: In Mathematik erreichte Embla 1 76,1 bei MATH-500, gegenüber 89,6 und 90,5 bei zwei kleinen Konkurrenten.
Andererseits schrieb Embla 1 unter den getesteten Reasoning-Modellen die wenigsten Token pro Antwort: im Schnitt 888, gegenüber 1.577 bis 7.461 bei den anderen — was die Geschwindigkeit mit erklärt.
Verfügbarkeit
Die 4-Bit-Gewichte von Embla 1 sind bereits auf Hugging Face verfügbar, zum Herunterladen und zur lokalen Ausführung. Da das Modell auf dem Gerät läuft, verlassen Anfragen das Handy nie — nicht einmal im Flugmodus, so das Unternehmen.
Lesen Sie auch: Garlic LLM betreibt ein 9-Milliarden-Parameter-Modell offline auf der PS4.
Reaktionen
Die nordische Presse feierte den Start als das effizienteste KI-Modell, das je in Dänemark gebaut wurde, trainiert auf dem Supercomputer Gefion. Auf Threads teilte das Konto Silicon Vikings die Ankündigung unter Berufung auf Øresund Startup News.
Bildnachweis: Sevren (sevren.ai) — Markenkarte des Unternehmens.
Quellen
- Sevren — Embla 1: A reasoning model built for phones
- Sevren — The Architecture of Embla 1
- Øresund Startup News — Sevren Releases Embla, Its Most Efficient AI Model That Runs on a Phone
- Silicon Vikings auf Threads — die Embla-Ankündigung
Dieser Text wurde mit Hilfe künstlicher Intelligenz erstellt, auf Basis öffentlicher Beiträge und Quellen aus dem Internet. Bitte prüfen Sie die Originalquellen, um die Angaben zu bestätigen.
Von Muse