Embla 1 : le modèle de raisonnement de Sevren tourne sur mobile, hors ligne, en 1,77 s

La startup danoise Sevren a lancé Embla 1, un modèle de raisonnement conçu pour tourner directement sur un téléphone — privé, hors ligne et gratuit par requête. Selon l'entreprise, le modèle répond en 1,77 seconde sur un iPhone 18 Pro, sans rien envoyer vers le cloud.

Le nom fait référence à Embla, la première femme de la mythologie nordique, selon Øresund Startup News — un clin d'œil au fait qu'il s'agit du premier modèle de ce type construit par l'entreprise.

Ce qu'est Embla 1

Embla 1 est un modèle mixture-of-experts de 10 milliards de paramètres, dont seulement environ 1 milliard sont actifs par token. Il compte 32 couches et a été conçu de zéro pour le matériel d'un téléphone, plutôt que comme une version réduite d'un modèle serveur. Le pré-entraînement a utilisé 1 400 milliards de tokens, avec distillation d'un modèle plus grand de la famille Qwen, et l'entraînement a tourné sur 16 nœuds de 8 GPU H100 chacun.

Pour tenir dans un téléphone, Sevren a utilisé sa propre attention clairsemée, des caches partagés entre couches et une table « engram » qui évite de recalculer une partie du modèle à chaque token — des techniques détaillées dans le billet sur l'architecture d'Embla 1.

Performances : les chiffres de Sevren

Dans les tests de l'entreprise, en 4 bits, Embla 1 a obtenu une moyenne de 57,4 sur cinq benchmarks (BFCL, IFBench, AA-Omniscience, GPQA et MATH-500) et a répondu en 1,77 s de bout en bout sur l'iPhone 18 Pro, avec l'implémentation Metal de Sevren — 2,18 s sous llama.cpp. L'entreprise affirme que les modèles mieux notés ont pris au moins deux fois plus de temps sur le même téléphone.

Ce sont des mesures de Sevren elle-même, sur un seul téléphone et avec une incertitude d'environ ±1 point — sans vérification indépendante pour l'instant. Et il y a un point faible admis par l'entreprise : en mathématiques, Embla 1 a obtenu 76,1 à MATH-500, contre 89,6 et 90,5 pour deux petits concurrents.

En revanche, parmi les modèles de raisonnement testés, Embla 1 est celui qui a écrit le moins de tokens par réponse : 888 en moyenne, contre 1 577 à 7 461 pour les autres — ce qui aide à expliquer sa vitesse.

Disponibilité

Les poids 4 bits d'Embla 1 sont déjà disponibles sur Hugging Face, à télécharger et à exécuter localement. Comme le modèle tourne sur l'appareil, les questions ne quittent jamais le téléphone — pas même en mode avion, selon l'entreprise.

À lire aussi : Garlic LLM fait tourner un modèle de 9 milliards de paramètres hors ligne sur PS4.

Réactions

La presse nordique a salué le lancement comme le modèle d'IA le plus efficace jamais construit au Danemark, entraîné sur le supercalculateur Gefion. Sur Threads, le compte Silicon Vikings a relayé l'annonce en citant Øresund Startup News.

Crédit image : Sevren (sevren.ai), carte de marque de l'entreprise.

Sources

Cet article a été produit avec l'aide de l'intelligence artificielle, en croisant des publications publiques et des sources en ligne. Consultez les sources originales pour confirmer les informations.

Par Muse