この言語は機械翻訳であり、人による確認は行われていません。

人工知能 · ニュース記事

DeepSeekがDeepInferをオープンソース化、AI実行コストを削減する推論ツール

公開:

要点

DeepSeekは、自社の本番環境AIサービスを実行する推論フレームワークであるDeepInferを、Apache 2.0ライセンスの下で無料のオープンソースソフトウェアとしてリリースしました。このツールは、同社のDeepSeek-V4.1-Flashモデルの提供をより速く、より安価にするために構築されており、共有することで、他の開発者がコンピュートコストとエネルギー使用量を削減するのに役立つと同社は述べています。

この版は原文(English)の機械翻訳です。 原文を読む

中国のAI企業DeepSeekは2026年10月20日にGitHubでDeepInferをリリースし、すでに自社の大規模な本番環境サービスを支える推論フレームワークを公開しました。SiliconANGLEとTechTargetによると、ソフトウェアはApache 2.0ライセンスの下、github.com/deepseek-ai/DeepInferで公開されています。

推論とは、モデルが訓練された後、実際にユーザーのプロンプトに対する回答を生成する段階です。Gizmodの引用によると、DeepSeakはリリースノートで「コミュニティがコンピュートコストを削減し、エネルギー使用量を削減し、AIをより手頃にするのを支援するために本番環境スタックを共有している」と述べています。

DeepInferの機能

GizmodとTechTargetによると、DeepInferはDeepSeekのV4.1-Flashモデル用に特別に構築された最適化層であり、同社がコーディングおよびエージェント機能用に販売するシステムです。SiliconANGLEは、DeepSeakの本番環境クラスターの1つがこのフレームワークを使用して1日あたり155兆トークンを提供していると報告しています。

フレームワークは推測デコーディングに依存しており、これは小さな「ドラフト」モデルが複数のトークンを事前に提案し、メインモデルが各トークンを1つずつ生成するのではなく1回のパスでチェックする技術です。DeepSeakの技術ドキュメンテーションを引用するSiliconANGLEは、DSpartという名称の同社によるこのシステムの特定のバージョンについて説明しており、ドラフトモデルが5つのトークンを提案し、別の信頼メカニズムがメインモデルがそれらを受け入れるかどうかを予測します。DeepSeakによれば、これにより不必要な検証が約30%削減され、本番環境規模の負荷下で4~7%のスループット増加が生じます。

SiliconANGLEによると、リリースされたコードはNvidiaのSM100(Blackwell)GPUとHuaweiのAscend 950ニューラルプロセッシングユニットをサポートしていますが、より古いNvidiaホッパー世代チップはサポートしていません。TechTargetは、DeepSeek以外のAIモデルを実行する企業がすでにNvidiaのTensorRT-LLMなどの同等のツールを使用できることを指摘しており、DeepSeakがNvidiaハードウェアとHuaweiチップの両方に依存し続けることは、同レポートによるとHuaweiがまだ一部の面でNvidiaに遅れをとっていることを示していると述べています。

除外された内容

DeepSeakは本番環境サービスを完全に実行するために必要なすべてをリリースしていません。SiliconANGLEは、同社がキーバリューキャッシュ管理システムと負荷分散コードを保有していると報告しており、これらはDeepSeakの内部インフラストラクチャと密接に結合されています。効率的なデプロイには最小でも128個のGPU(プロンプト処理専用に64個、応答生成専用に64個)が必要なままです。決定論的出力機能(モデルが同じ入力に対して一貫した回答を返す機能)は現在、Nvidiaハードウェアでのみ機能するとのこと。

コスト比較と反応

Gizmodは、DeepSeakがV4.1-Flashを100万入力トークンあたり$0.035、100万出力トークンあたり$0.12で価格設定していると報告しており、同メディアがOpenAIのGPT-6 Astraモデルについて引用している数字は同じ量で各々$10と$50です。GizmodはこのリリースをDeepSeakがOpenAIとAnthropicに圧力をかける一部として位置付けています。SiliconANGLEは別として、DeepInfer実行クラスターのピークオフ価格はGPUあたり1時間あたり約$38の収益を生み出すことができると報告しています。

Omdia分析家のLian Jye SuはTechTargetに、トークン使用の最適化に関する相当な業界議論があり、AI採用の成長に伴ってトークン消費が急激に増加していることを指摘していると述べました。TechTargetは、分析家がこのリリースをコスト最適化の取り組みと、Nvidiaハードウェアと並んで中国のチップ代替案を促進する地政学的ポジショニング努力の両方と見なしていると述べています。

背景

SiliconANGLEは、DeepInferがもともと2025年4月にオープンソースプロジェクトvLLMからフォークされたと報告しており、当時同社が完全なリリースを実用的でないと判断したためです。DeepSeakは以前、低コストで競争力のあるAIモデルをリリースすることで注目を集めており、DeepInferリリースは単なるモデルのみではなくインフラストラクチャソフトウェアを公開することで、このパターンを継続しています。

Gizmodによると、DeepSeakは将来的にDeepInferフレームワークに追加モデルのサポートを追加する予定があると述べていますが、具体的なタイムラインは示されていません。

よくある質問

DeepInferとは何ですか?
DeepInferはDeepSeakが本番環境で自社のAIモデルを実行するために使用する推論フレームワークであり、現在は他の開発者がより安価にモデルを提供できるようにするための無料のオープンソースソフトウェアとしてリリースされています。
どのDeepSeekモデルがDeepInferに対応していますか?
ローンチ時点では、DeepInferはDeepSeek-V4.1-Flash用に特別に構築されています。DeepSeakは今後他のモデルを追加する計画があると述べています。
DeepInferはどのハードウェアで実行されますか?
SiliconANGLEによると、NvidiaのSM100(Blackwell)GPUとHuaweiのAscend 950 NPUに対応していますが、より古いNvidiaホッパー世代GPUには対応していません。
DeepInferは完全な配備準備サービスですか?
いいえ。SiliconANGLEは、DeepSeakが自社のキーバリューキャッシュ管理および負荷分散システムを保有していると報告しており、これらは内部インフラストラクチャに関連していますが、動作中の配備には最小で128個のGPUが必要です。
DeepSeakの価格設定はOpenAIと比べてどうですか?
Gizmodは、DeepSeakがV4.1-Flashに対して100万入力トークンあたり$0.035、100万出力トークンあたり$0.12を請求していると報告しており、同メディアがOpenAIのGPT-6 Astraモデルについて引用している数字は各々$10と$50です。

出典

  1. Gizmodo — DeepSeek Dials Up the Pressure on OpenAI and Anthropic With Open-Source Inference Tool
  2. SiliconANGLE — DeepSeek open-sources DeepInfer, the inference framework behind its production services
  3. TechTarget — DeepSeek makes DeepInfer open source to cut AI costs

この記事は人工知能で作成され、公開前に出典の自動チェックを通過しています。誤りを見つけたら訂正を依頼してください。 訂正・反論を依頼する · 制作方針

関連記事