Outils
AI Minute Newsroom
2026-08-22
Un modèle vocal qui commence à parler en moins de 50 millisecondes, et le code de service est ouvert
Nari Labs a publié le 19 août un exposé du système de service qu'il a bâti pour Qwen3-TTS 1.7B CustomVoice, et a ouvert le code de l'implémentation comme du banc d'essai. Sur une seule H100 SXM, il maintient le 95e centile du délai avant le premier son sous 50 millisecondes à 10 requêtes par seconde, et reste sous 100 millisecondes même à 20. À pleine charge, le coût revient à environ 2 dollars par million de caractères de parole. Le gain vient de l'ordonnancement et non d'un nouveau modèle : les trois composants du système, le Talker, le Code Predictor et le codec, sont ordonnancés comme une seule unité au lieu de trois files distinctes, les requêtes sont priorisées par échéance pour que le flux ne reste pas coincé derrière le traitement par lots, et le décodage est incrémental avec état en cache.
Pourquoi c'est importantC'est la latence qui décide si une interface vocale ressemble à une conversation ou à un serveur téléphonique. En dessous d'environ 200 millisecondes, une personne perçoit la réplique comme une réponse ; passé une demi-seconde, elle commence à parler par-dessus. Descendre sous 50 supposait jusqu'ici la pile propriétaire d'une entreprise d'API vocale, au prix correspondant. L'astuce qui remodèle l'inférence textuelle depuis deux ans, à savoir que l'essentiel de la vitesse se trouvait dans la couche de service et non dans les poids, arrive dans l'audio, en public, code à l'appui. Si vous construisez quelque chose qui parle, le seuil de l'acceptable vient de monter.
✓ Vérifié · 2 sources
Lire dans l'app — gratuit, en 9 langues
Actus liées
Des chercheurs disent avoir extrait des conversations de l'agent Muse.
2026-11-22Space, l'espace partagé de ChatGPT, arrive chez les abonnés Plus.
2026-11-21Signal empêche les assistants IA du téléphone de lire vos messages.
2026-11-20OpenAI ouvre son dernier modèle vocal aux développeurs.
2026-11-20Gemini peut désormais cliquer et taper à votre place sur Mac.
2026-11-20