50ミリ秒未満で話し始める音声モデル。しかもサービング側のコードが公開されている
Nari Labsは8月19日、Qwen3-TTS 1.7B CustomVoice向けに構築したサービングスタックの解説を公開し、実装とベンチマークの両方をオープンソースにした。H100 SXM 1枚で、毎秒10リクエスト時の最初の音声までの時間の95パーセンタイルを50ミリ秒未満に保ち、毎秒20リクエストでも100ミリ秒を下回る。フル負荷時のコストは音声100万文字あたり約2ドルに相当する。改善は新しいモデルではなくスケジューリングから来ている。システムの3つの構成要素であるTalker、Code Predictor、コーデックを3本の別々のキューではなく一つの単位としてスケジュールし、リクエストは締切順に優先度をつけてストリーミング処理がバッチ処理の後ろで詰まらないようにし、デコードは状態をキャッシュした逐次方式にしている。
なぜ重要か音声インターフェースが会話に感じられるか、電話の自動音声に感じられるかを決めるのは遅延だ。おおよそ200ミリ秒を切ると人は返答を答えとして受け取り、半秒を過ぎると相手の声にかぶせて話し始める。50ミリ秒を切るには、これまで音声API企業の独自スタックとそれ相応の価格が必要だった。この2年テキスト推論を作り変えてきた種明かし、つまり速度の大半はウェイトではなくサービング層に眠っていたという事実が、音声にも、公開の形で、コード付きでやってきた。しゃべるものを作っているなら、許容できる水準の下限がたった今引き上げられた。
アプリで読む——無料・9言語
関連ニュース
TikTokが見ている動画の中に買い物ボットを入れました。2026-10-06マイクロソフトの新モデルは話し終わる前に書き始めます。
2026-10-05イレブンラボが学生に朗読音声を一年間無料で出します。
2026-10-05メタの助手はあなたの周りの全員を一時間ごとに記録しています。
2026-10-05一つのコマンドで、アップルが消した停止スイッチが戻る
2026-10-05