Outils
AI Minute Newsroom
2026-08-04
Swiftlet fait tenir un modèle de 80 milliards de paramètres dans 4,3 Go de RAM — et un 35B sur un iPhone
Un nouveau runtime open source en Swift et Metal, Swiftlet, streame à la demande les poids d'un mélange d'experts depuis le disque : les couches d'attention, les routeurs et un cache des 'experts' les plus sollicités restent en mémoire, le reste est lu depuis le stockage. Résultat : Qwen3-Next-80B tourne sur un Mac M5 avec environ 4,3 Go de RAM à 4,5-5 tokens par seconde, et un modèle de 35 milliards fonctionne sur un iPhone 17 à environ un token par seconde. Les compromis demeurent : il faut 42 Go de disque libre pour le grand modèle, et l'auteur prévient que ces modèles creux 'conversent comme de grands modèles mais retiennent les faits comme de petits'. Le projet a dominé Hacker News et dépassé 280 étoiles GitHub en une journée.
Pourquoi c'est importantC'est le mur de la mémoire — pas la puce — qui empêchait les grands modèles de tourner sur le matériel grand public. Si le streaming d'experts tient ses promesses, votre matériel actuel accède à une classe de modèles qui exigeait jusqu'ici une station de travail GPU : un enjeu pour la vie privée, l'usage hors ligne et tous ceux qui ne peuvent pas payer d'API.
✓ Vérifié · 2 sources
Lire dans l'app — gratuit, en 9 langues
Actus liées
Des chercheurs disent avoir extrait des conversations de l'agent Muse.
2026-11-22Space, l'espace partagé de ChatGPT, arrive chez les abonnés Plus.
2026-11-21Signal empêche les assistants IA du téléphone de lire vos messages.
2026-11-20OpenAI ouvre son dernier modèle vocal aux développeurs.
2026-11-20Gemini peut désormais cliquer et taper à votre place sur Mac.
2026-11-20