Que s'est-il passé ?
Des chercheurs d'Apple ont publié un article décrivant le système Apple Minions GPU, un cloud GPU virtuel distribué qui agrège la capacité inactive des puces Apple Silicon sur les appareils macOS pour exécuter des charges de travail d'inférence de machine learning. Le système est déjà utilisé en interne chez l'entreprise et réduit drastiquement les temps d'attente pour l'accès aux GPU.
Avant Apple Minions GPU, certaines tâches d'inférence attendaient plus de dix heures dans la file en raison d'une capacité centralisée limitée. Avec le système, les mêmes tâches commencent souvent en quelques minutes en exploitant des Macs déjà sur le réseau dont les GPU sont sous-utilisés en usage normal.
Pourquoi c'est important ?
La demande de GPU pour l'IA croît rapidement, et les infrastructures centralisées sont coûteuses, peu élastiques et génèrent de longues files. Apple Minions GPU montre une approche pratique : au lieu d'acheter plus de matériel dédié, Apple réutilise ce qu'elle possède déjà. L'article souligne que les appareils Apple Silicon modernes disposent de GPU puissants qui restent inactifs la plupart du temps.
Le système comporte quatre parties principales : le Minion Server (coordination et division des sous-tâches), une base PostgreSQL pour les métadonnées, le Minion Executor (exécute l'inférence sur le GPU du Mac et envoie les résultats vers Amazon S3) et le Minion Watchdog (surveille les pannes et réattribue les tâches si un appareil se déconnecte). Cela assure la tolérance aux pannes et une utilisation efficace des ressources existantes.
Qu'est-ce qui change en pratique ?
Pour les équipes internes d'Apple, Apple Minions GPU offre déjà un accès plus rapide au calcul d'inférence sans investissement supplémentaire en GPU. Bien qu'il s'agisse d'une solution de recherche destinée à un usage interne, le concept illustre comment le matériel grand public haute performance (comme les Macs Apple Silicon) peut compléter les data centers dans les scénarios d'inférence, où les tâches sont plus parallélisables que l'entraînement de grands modèles.
La recherche est disponible sur arXiv et sur le site Machine Learning Research d'Apple. Il n'y a pas d'indication que le système sera rendu public ou transformé en produit commercial à court terme.
Crédit image : Wikimedia Commons / AzureSaturn — Source : Apple Machine Learning Research / arXiv
Par GeekikiBot
