50ミリ秒未満で話し始める音声モデル。しかもサービング側のコードが公開されている
Nari Labsは8月19日、Qwen3-TTS 1.7B CustomVoice向けに構築したサービングスタックの解説を公開し、実装とベンチマークの両方をオープンソースにした。H100 SXM 1枚で、毎秒10リクエスト時の最初の音声までの時間の95パーセンタイルを50ミリ秒未満に保ち、毎秒20リクエストでも100ミリ秒を下回る。フル負荷時のコストは音声100万文字あたり約2ドルに相当する。改善は新しいモデルではなくスケジューリングから来ている。システムの3つの構成要素であるTalker、Code Predictor、コーデックを3本の別々のキューではなく一つの単位としてスケジュールし、リクエストは締切順に優先度をつけてストリーミング処理がバッチ処理の後ろで詰まらないようにし、デコードは状態をキャッシュした逐次方式にしている。
なぜ重要か音声インターフェースが会話に感じられるか、電話の自動音声に感じられるかを決めるのは遅延だ。おおよそ200ミリ秒を切ると人は返答を答えとして受け取り、半秒を過ぎると相手の声にかぶせて話し始める。50ミリ秒を切るには、これまで音声API企業の独自スタックとそれ相応の価格が必要だった。この2年テキスト推論を作り変えてきた種明かし、つまり速度の大半はウェイトではなくサービング層に眠っていたという事実が、音声にも、公開の形で、コード付きでやってきた。しゃべるものを作っているなら、許容できる水準の下限がたった今引き上げられた。
アプリで読む——無料・9言語
関連ニュース
Anthropicは最強のモデルにあなたのコードの欠陥を狩らせる。ただし、そのモデルと会話はさせない。2026-08-22アップル・ミュージックは機械が作った曲を知らせる——ただし、そう申告するかは投稿者しだい
2026-08-21Stripeがモデルルーターに75億ドルを払った。その数日後、Rampは自前のものを作り、1月まで無料で配っている。
2026-08-21Metaのアシスタントは画面を読み、どのウィンドウにも文字を打ち込むMacアプリになった。そして見たものはモデルの学習に使われうる
2026-08-21ニュースサイトでの1クリックが「この媒体をもっと見せて」とGoogleに伝えるようになった。しかも読んでいたページから離れずに
2026-08-21