DeepSeek、推論基盤「DeepInfer」を公開　NVIDIAとHuaweiの計算機に対応

ニュースの要点

DeepSeekの本番推論を支える中核コードが公開され、指定のNVIDIA・Huawei機器で利用できます。

DeepInferの入力処理の速度と待ち時間を示すDeepSeek公式の性能図。入力長や一括処理量など、図中に記された条件で測定しています。 — 画像の権利情報
DeepSeek-AI / DeepInfer, Apache License 2.0 利用条件

DeepSeekは10月20日、大規模なAIサービスを動かす推論基盤「DeepInfer」のコードをGitHubで公開しました。同社の本番サービスで使う仕組みを基にしたもので、NVIDIAのSM100 GPUとHuaweiのAscend 950 NPUに対応します。

今回の公開版は、DeepSeek-V4.1-Flashの推論を手元の計算環境で実行するための機能を備えています。複数の計算機へ処理を分担する機能や、先に出した回答候補を検証して文章の生成を速める仕組み、CPUでの処理準備と計算機での実行を重ねる仕組みなどを含みます。

回答をJSONなどの指定した形式にそろえる機能も利用できます。同じ入力と設定から同じ出力を得る機能など、一部はNVIDIA向けに提供されています。公開ライセンスはApache License 2.0です。

公開範囲はオフライン推論と、大規模サービスを構成するための中核部分です。実際に利用者のリクエストを受け付けるサービスを組み立てる際は、途中の計算結果を保存する仕組みや、処理の割り振りなどを組み合わせます。

このニュースをやさしく解説

要点

AIの推論基盤の仕組みと、今回の結果の読みどころを順に解説します。

何を調べたのでしょうか

AIが質問を受け取り、学習済みのモデルを使って答えを作る処理を「推論」と呼びます。DeepInferはその処理を計算機で動かすためのソフトウェアです。大勢の人が使うサービスでは、文章を生成する計算を複数の機器へ分担し、次の処理の準備も進めます。今回公開されたのは、DeepSeekが本番サービスで使う仕組みを基にした中核部分です。運営する側がコードを読み、自分たちの計算環境に組み込めるようになりました。

仕組みを順番に見る

処理を進める工夫の一つが、回答の続きを先に候補として作り、その内容を確かめる仕組みです。文章を少しずつ生成する際に、この候補作りと検証を組み合わせます。また、計算機が処理している間に、CPUが次の作業を準備する機能も備えています。公開コードには、AIに答えを作らせる計算と、それを滞りなく続けるための作業の両方が含まれます。

結果をどう読むか

対応するモデルはDeepSeek-V4.1-Flashで、計算機はNVIDIAのSM100とHuaweiのAscend 950です。ここでいう対応はこの組み合わせで推論を動かすためのものです。機能にも機器ごとの違いがあり、入力や設定をそろえて同じ結果を得る機能などはNVIDIA向けに用意されています。導入する側は、使うモデル、機器、必要な機能を一緒に選ぶことになります。

暮らしとのつながり

AIの回答をほかのシステムで使うために、決めた項目や形式にそろえる機能もあります。例えば、文章だけの回答と、項目ごとに整理した回答では、後のプログラムが扱う方法が変わります。公開版を使って大規模なサービスを組み立てる際には、途中の計算結果を保存する仕組みや、利用者の依頼を各計算機へ割り振る仕組みを加えます。今回の公開はこうしたサービスを作るための計算部分を提供するものです。

この記事に出てくる用語を確認する

推論: 学習したAIが入力を処理し、回答などを出すことです。

解説の参考資料

本誌の考察

本誌が今回の公開から読み取るのは、AIサービスの作り手がモデルを動かす方法まで検討しやすくなる変化です。DeepInferには複数の計算機へ仕事を分ける処理や、文章の生成を進める工夫が含まれます。モデルを使って何を提供するかに加え、利用者が増えたときにどう処理するかを、公開コードから考えられます。サービスの内容と運転の仕組みを、一緒に作り込む余地が広がります。

対応する計算機が二つのメーカーにまたがることから、その先には、運営場所や設備に合わせてAIサービスを組み立てる未来も考えられます。実際には各機器で必要な機能や性能を確かめ、途中の計算結果の保存や、処理の割り振りの仕組みを整える必要があります。その準備を引き受ける事業者が増えれば、地域の組織や小さな専門サービスも、設備の運転を任せながら、自分たちが届けたい内容に取り組みやすくなるでしょう。

例えば、街の図書館が郷土資料を会話で探せる案内サービスを運営する場面を想像できます。利用できる資料を整理し、回答に原資料の場所を示す機能を組み合わせます。質問が増える時期には計算の割り振りを調整し、資料の公開範囲も管理します。子どもが昔の町並みについて尋ねると、説明と一緒に古い写真や地図の所蔵先が表示され、週末に見に行く資料を選べるかもしれません。

回答を決めた形式で受け取れる機能は、案内を画面のほかの操作につなぐ際にも役立ちそうです。地図や展示の案内と連携できれば、AIが説明した場所を画面上でたどり、その日の散歩の道順に加えられます。資料を読むサービスから、街を歩いて確かめるサービスへ進むわけです。こうした連携を作る側には、出典と場所の対応を確かめる仕事が生まれます。

さらに、図書館、博物館、地域の団体が、それぞれ管理する資料を適切な範囲でつなげられれば、街そのものを調べて歩く楽しみが広がります。転居してきた人が夕食後に質問し、翌日は近所の小さな史跡へ立ち寄る場面です。計算基盤を運営する仕組みが整うほど、AIの使い道を考える人も増え、地域ごとに異なる知識を身近に楽しめる未来へつながりそうです。