DeepSeekは火曜、本番環境でモデルを動かす社内ソフト「DeepInfer」をオープンソース化した。エヌビディアの最新データセンター向けチップと華為の昇腾950で動くが、対応モデルはまだ一つだけだ。キャッシュや負荷分散は含まれないが、開発者の評価を示すスターは9000を超えた。
✓ 検証済み · 3ソース