DPUとは
読み: ディーピーユー Data Processing Unit AI計算資源・大規模モデルの用語
DPUとは、サーバーの入り口にあるネットワークカードに組み込まれた計算機。仮想ネットワーク、暗号化、ファイアウォール、ストレージへの振り分けを専用回路で処理し、CPUとGPUをAIの処理に専念させる。自らは推論を行わない。アマゾンのNitro、エヌビディアのBlueField、マイクロソフトのAzure Boostが同種の製品にあたる。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。各段の抜粋は解説本文の冒頭で、続きはリンク先にある。
processors 8. DPU — 通信を機械で受け止め、CPUとGPUを本業に戻す
ひとことで言うと — DPUはサーバーの入口にある通信カード (NIC) の中に入った小さな計算機である。通信の仕分け、暗号化、防火壁、ストレージへの経路の決定といった裏方の仕事を引き受け、CPUとGPUをAIの仕事に専念させる。自分では推論をしない。 DPUの5段の流れは、通信が届く、DPUが機械で受け止める、保護と暗号化、ストレージと入出力の経路を決める、CPUとGPUをAIの仕事に解放する、である。ほかの5つと違い、最後の段が「結果を返す」ではなく「時間を返す」になっている。 なぜ要るのか — 通信が太くなるほどCPUが食われる 雲のサーバーでは、1台の機械を多数の客が分け合う。客ごとに仮想の網を作り、通信を暗号化し、防火壁の規則を当て、離れた場所のストレージをあたかも手元にあるように見せる。この仕事は以前、CPUの上のソフトが担っていた。通信の速さが毎秒10ギガビットから400ギガ…
processors 11. 決定の手引き — 6つの割り当てと、実機での組み合わせ
4つの問いの答えを1枚にまとめると、次の割り当てになる。指揮にはCPU。学習と並列の数学にはGPU。グーグル規模のテンソルの仕事にはTPU。端末内の推論にはNPU。実時間の言語モデル配信にはLPU。通信・保護・入出力の肩代わりにはDPU。選ぶ基準は、待ち時間、並列性、電力、費用、規模の5つである。 計算機割り当て具体的な仕事 表15 決定の手引き。仕事の性質 (待ち時間・並列性・電力・費用・規模) に基づいて選ぶ。 実機は1つを選ばない — 組み合わせで動く 手引きは「どれか1つ」を選ぶ表に見えるが、実際の機械は複数を組み合わせている。6つは競合する商品というより、分業する部品である。 機械組み合わせ分担 表16 実機での組み合わせ。各社の公表仕様による。 投資の目で見ると、この分業には含意がある。GPUの出荷が増えれば、同じ棚に載るCPUとDPU、それらを結ぶ線と光の部品も比例して増える…
関連する用語
出典・注記: 第IX部 計算機 の新設に伴い採用 (2026-09-17)
🧰 ツール・特集の入口
一次データで動く 11 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)