第III部 設計する | 半導体技術 体系解説
チップの設計 — 中身の4部品・設計の道具・計算機の作り分け
チップの中身は論理・記憶・つなぎ・電力の4つの部品でできている。その選択肢と、設計を担うソフトが3社に集まる費用構造、そしてAIを動かす5つの計算機が何を捨てて何を取ったかを、公開仕様と提出書類で確かめながら読む。
Postation の入口
④ 基盤構成 (アーキテクチャ)
チップの中身は、論理・記憶・つなぎ・電力の4つの部品でできている。それぞれにどんな選択肢があり、なぜその1つが選ばれるのかを見る。
4.1 論理回路の作り分け — 判断を取るか、数を取るか
CPUは判断に投資する。1つの演算核あたり数億個の素子が、次に何をするかを決める回路に使われる。 GPUは判断をまとめる。32本の流れを1つの命令で同時に動かし、同じ計算を別のデータへ一斉に当てる。 専用回路 (ASIC) は判断を捨てる。命令の読み出しも解読も分岐の予測も持たず、積和演算器を格子に並べるだけにする。 行列の掛け算の効率は、この順でおよそ 1対30対300 になる。
| 種別 | 並列度 | 制御 vs 演算 | プログラマビリティ | 効率 | 代表例 | 中国 | 日本 |
|---|---|---|---|---|---|---|---|
| CPU (汎用) | 低 (8-128 コア) | 数億 (制御に大半) | ★★★★★ (任意命令) | ★ (汎用性のため) | インテル Xeon / AMD EPYC / アップル M3 / Hygon C86 | Hygon (x86 互換)、HiSilicon Kunpeng (Arm) | ルネサス (RZ/RX)、富士通 A64FX (富岳) |
| GPU (SIMT) | 中 (1万-10万スレッド) | 中 (制御 1 / 演算 32) | ★★★★ (CUDA / OpenCL) | ★★★★ (並列演算) | エヌビディア H100 / AMD MI300 | Moore Threads MTT S4000、Biren BR100、MetaX、Iluvatar | — (エヌビディア依存) |
| ASIC / NPU (専用) | 極大 (Systolic Array) | 極小 (制御不要) | ★ (固定機能) | ★★★★★ (専用最適) | グーグル TPU v4 / AWS Trainium | Cambricon MLU / HiSilicon Ascend / Enflame DTU | Preferred Networks MN-Core 2、NEC SX-Aurora |
| FPGA (再構成) | 中 | 大 (LUT + Switch) | ★★★ (HDL / HLS) | ★★ (面積効率低い) | Xilinx Versal / インテル Agilex | Anlogic、Gowin、Pango (国産 FPGA) | — (Xilinx 依存) |
| DSP (信号処理) | 中 (VLIW) | 中 | ★★★ (専用言語) | ★★★★ (信号特化) | TI C66x / クアルコム Hexagon | HiSilicon DSP IP | ルネサス DSP |
4.2 記憶の階層 — 演算器は待っている時間の方が長い
記憶の壁: CPUは1ナノ秒で1命令を実行できるが、主記憶から読み出すには100ナノ秒かかる。
そのままでは時間の99%が待ち時間になるため、手元に小さく速い記憶を何段も置く。最も近い段で95%を当てられて、初めて速さが出る。
積層メモリーが要る理由: AIの学習には毎秒1テラバイトの帯域が要る。通常の主記憶は1経路あたり毎秒64ギガバイトで、16経路束ねても届かない。
そこで記憶の板を12段積み、土台の板を挟んでGPUのすぐ隣に置く。配線を1,024本に広げ、1本あたり毎秒6.4ギガビットで動かすと、1山あたり毎秒819ギガバイトになる。
積層メモリーの供給はSKハイニックスに偏っている。CXMTは第2世代にも届いておらず、これが中国製のAI半導体で最も詰まっている場所になっている。
| 階層 | レイテンシ | 容量 | 帯域 | コスト/bit | 技術 | 理由 |
|---|---|---|---|---|---|---|
| L1 SRAM | 1 (4 cycles)ns | 32-64 KB / コア | ~1 TB/s/コア | $$$$ | 6T SRAM cell | ALU 直結、毎サイクルアクセス必須。1 cell = 6 トランジスタ → 面積食う |
| L2 SRAM | 5-10ns | 256 KB - 1 MB | ~500 GB/s/コア | $$$ | 6T SRAM cell | L1 miss 時の救済、コアプライベート |
| L3 SRAM | 20-40ns | 8-128 MB | ~200 GB/s | $$ | 6T SRAM cell | コア間共有、cache coherence で同期 |
| HBM3 | 80-100ns | 24-80 GB/stack | ~819 GB/s/stack | $ | TSV 12 段積層 DRAM | GPU 真隣に配置、1024-bit ワイドバス。SKハイニックス寡占。CXMT 未到達 |
| DDR5 | 80-120ns | 32-128 GB | ~64 GB/s/ch | ¢ | PCB 上の DRAM | マザーボード経由で離れているため帯域低い |
| NVMe SSD | 50,000ns | ~ TB | ~14 GB/s | ¢ | 3D NAND | YMTC 232 層 / キオクシア 218 層、モバイル・データセンター主力 |
| HDD | 5,000,000ns | 20+ TB | ~250 MB/s | 0.1¢ | 磁気プラッタ | バックアップ用途のみに退避 |
4.3 チップ内のつなぎ — 演算核が増えると配線が先に破綻する
演算核をつなぐ形は、1本の共有線から、総当たりの交換機、そして格子状の網へと移ってきた。 総当たりの交換機は核の数の2乗で回路が増えるため16核あたりで行き詰まる。核が数十を超える今のチップでは、格子状の網 (ネットワークオンチップ) 以外に成り立つ形がない。
| トポロジ | スケーリング | 最大コア数 | レイテンシ | 理由 |
|---|---|---|---|---|
| Shared Bus | O(1) 帯域固定 | ~8 | 低 | 全 master が共有、1 master しか送信不可。コア数 16 超で破綻 |
| Crossbar | O(N²) 面積 | ~16 | 極低 | 全対全直結、コスト爆発 |
| Ring | O(N) 面積 | ~32 | 中 (N/2 hop) | インテル Xeon の伝統採用、コア数中規模で有効 |
| Mesh NoC (2D) | O(N) 面積 | ~256 | 中 (√N hop) | 現代 GPU/CPU の必須アーキテクチャ。エヌビディア H100、アップル M Ultra、Cambricon MLU |
| Torus NoC (3D) | O(N) 面積 | ~10000 | 低 (∛N hop) | 富士通 A64FX (富岳)、Tofu Interconnect。HPC 専用 |
| Optical NoC | O(N) 面積 | 理論無限 | 極低 | 中国 Lightelligence が研究、シリコンフォトニクスで電気→光変換。実用化 2030+ |
4.4 電力と熱 — 「縮めれば速くなる」が終わった日
デナードの法則 (1974〜2005年): 素子を半分の寸法にすると電圧も半分にでき、消費電力は変わらないまま動作周波数が2倍になる、という関係である。
2005年以降は成り立たなくなった。待機時に漏れる電流が増えて電圧を下げられなくなり、周波数は4ギガヘルツ前後で頭打ちになった。
その後の代替戦略:
| 戦略 | 時代 | 仕組み | 限界 | 理由 |
|---|---|---|---|---|
| デナードの法則 | 1974-2005 | ノード半減 → 電圧半減 → 電力同じ → 周波数 2 倍 | 2005 崩壊 | リーク電流増大で電圧下げ不可能に。1V 以下で SRAM 動作不能 |
| マルチコア | 2005- | シングル性能諦め、コア数増やす | アムダール則 | シリアル処理がボトルネック、無限並列化不可 |
| DVFS | 2010- | 動作中コアのみ電圧/周波数ブースト | 制御複雑 | インテル Turbo Boost / AMD Precision Boost、瞬時消費電力管理 |
| Dark Silicon | 2015- | チップの 50%+ は同時稼働不可、機能分割で時分割 | 面積無駄 | 熱密度 100W/cm² 超で焼ける。GPU/AI/媒体エンコ等を時分割 |
| 専用化 (ASIC) | 2018- | 汎用 CPU 諦め、特定 workload 専用に | 柔軟性 | TPU / テスラ Dojo、行列演算特化で 10 倍効率 |
| Liquid Cooling | 2023- | 空冷限界 (300W) 突破、水冷で 700W+ 対応 | インフラ | エヌビディア H100 = 700W TDP、データセンター 1 ラック 30kW 突破 |
| 裏面からの給電 | 2026- | チップ裏面から電源供給、表面は信号専用 | 製造難 | インテル 18A / TSMC A16 で導入、IR drop 改善 30% |
⑤ 設計自動化 (EDA) — 回路を描く道具の産業構造
最先端のチップは数百億個のトランジスタを載せる。人手では1つも配置できず、設計・検証・製造適合のすべてを 電子設計自動化 (EDA) と呼ばれるソフトウェア群が担う。 装置と工場の話題に隠れがちだが、この道具の供給が止まると新しい半導体の設計は始まらない。 ⑨で扱う「先端の世代が止まる理由」でも、露光装置・感光材・量産の作り込みと並ぶ4つの要素の1つに数えられる。 ここでは道具の中身を工程順に分解し、供給者の顔ぶれを資本関係まで含めて固定する。
5.1 仕様からテープアウトまで — 6段階の設計の流れ
設計は抽象度を1段ずつ下げる変換の連鎖である。各段階の出力が次の段階の入力になり、 どの段階にも専用のEDAツールが対応する。最後の製造データ確定 (テープアウト) までのどこか1段が欠けても、チップは完成しない。
| 段階 | 何をするか | 出力 | 対応するEDAの領域 |
|---|---|---|---|
| 1. 機能設計 | 回路の動作をハードウェア記述言語 (RTL) で書く | 動作記述 | 論理シミュレーション・検証 |
| 2. 論理合成 | 動作記述を論理素子の網に変換。速度・面積・電力の制約を満たす候補を探索する組み合わせ最適化 | ネットリスト | 総合ツール (大手3社の中核) |
| 3. 配置配線 | 素子をシリコン上に置き、配線で結ぶ。④で扱ったNoCの物理形がここで決まる | レイアウト | 総合ツール |
| 4. 回路シミュレーション | 電圧・電流の連続量で動作を確かめる。アナログ・高周波回路では必須 | 波形 | アナログ向け・回路シミュレーション |
| 5. 物理検証・製造適合 | レイアウトが製造規則に沿うか (DRC)、回路図と一致するか (LVS) を照合し、歩留まりが出る形に作り込む (DFM) | 検証済みデータ | 物理検証・DFM |
| 6. テープアウト | 製造データを確定しファウンドリへ引き渡す。以降の修正は数億円規模の作り直しになる | マスクデータ | ③の製造工程へ |
この流れの外側に2つの隣接領域がある。1つはTCAD (工程の物理を解く道具) で、回路ではなく 製造工程と素子そのもの — 不純物の拡散、電子の振る舞い — を計算で再現する。③で扱ったドーピングやエッチングの条件出しは、 実験の前にまずTCADで探索される。もう1つはプリント基板・パッケージ設計で、完成したチップを基板に載せ、 端子を引き出す段階を担う。チップ設計とは別の道具立てだが、後工程が主戦場になった現在、両者の境界は薄れつつある。
5.2 5つの領域と主な供給者 — 一覧を資本関係まで含めて読む
供給者は総合ツール大手3社 (シノプシス・ケイデンス・シーメンスEDA) と、領域ごとの専業に分かれる。 ただし独立企業として名前が並ぶ会社の一部は、既に他社の傘下にある。名前の数と意思決定の数は違う — この読み替えが投資でも地政学でも効く。
| 領域 | 大手3社の製品 | 専業・独立系 | 資本関係の注記 |
|---|---|---|---|
| アナログ・高周波・電力・MEMS | ケイデンス (Virtuoso) | ジーダット (日本)、シルバコ、キーサイト (PathWave ADS)、アンシス、コベンター | アンシスは2025年7月シノプシス傘下。コベンターはラムリサーチ傘下 |
| 論理・回路シミュレーション / 検証 | シノプシス (VCS・PrimeSim)、ケイデンス (Xcelium・Spectre)、シーメンスEDA (Questa・Analog FastSPICE) | Aldec、Real Intent、Breker Verification Systems | 専業3社はいずれも米国の非上場 |
| TCAD (工程と素子の設計) | シノプシス (Sentaurus) | シルバコ、コベンター、クロスライトソフトウェア (加)、グローバルTCADソリューションズ (墺) | 独立系が主役を張れる数少ない領域。シルバコは顧客800社超のうち200社超が大学 |
| 物理検証・DFM (製造・歩留まり) | シーメンスEDA (Calibre)、シノプシス (IC Validator)、ケイデンス (Pegasus) | ASML (ブライオン)、PDFソリューションズ | ブライオンは2007年からASMLの一部。露光装置メーカーが計算補正まで握る |
| プリント基板・パッケージ設計 | ケイデンス (Allegro)、シーメンスEDA (Xpedition・PADS) | 図研 (日本)、アルティウム、オートデスク | アルティウムは2024年にルネサスエレクトロニクスが取得。日本の半導体メーカーが基板設計大手を保有 |
5つの領域すべてに大手3社が顔を出し、独立系が主役を張れるのはTCADと基板設計の2つに限られる。 日本勢はこの2つに1社ずつ — アナログ設計のジーダットと、基板設計の図研 — が残る。 図研の2026年3月期は売上高431億100万円で前期比5.8%増、営業利益率13.6%、研究開発費は売上の12.6%。 1つの領域に絞って5年で売上を1.37倍にした一方、総合大手との研究開発費の桁は3桁違う。
5.3 なぜ3社に集まるのか — 売上の3分の1を研究開発に入れる費用構造
設計理由 (寡占の力学): EDAは物を持たない。費用のほとんどが人で、売る物は複製できる。
だから粗利率はシノプシス77.0%・ケイデンス86.4% (直近通期の提出書類) と極端に高く、
稼いだ粗利をそのまま次世代の開発に回す。研究開発費の売上比はシノプシス35.1%・ケイデンス33.4%、
新興のシルバコに至っては47.3% — 装置大手 (ASML 14.4%・アプライドマテリアルズ12.6%・ラムリサーチ10.2%) の3倍前後、
日本のソフトウェア業500社の平均3.44% (経済産業省企業活動基本調査 2023年度) の10倍にあたる。
この投入を続けられない会社から脱落する。シノプシスとケイデンスの研究開発費の合計は42億4,811万ドル ≒ 6,751億円で、
日本のソフトウェア業500社の研究開発費の合計5,060億9,400万円を2社だけで1.33倍上回る。
日本に総合EDA大手が育たなかった構造的な理由がここにある。
規模が生存条件になる: 粗利率78.3%のシルバコは営業損失4,590万ドル、売上22%増のPDFソリューションズも純損益64万ドルの赤字。
高粗利でも、研究開発費を賄える売上規模がなければ利益は残らない。
商いの形も寡占を強める。EDAは買い切りではなく期間を決めた使用権の契約 (3年契約が主流) で、 売上は期間に分けて計上される。顧客の設計フローに一度組み込まれると、設計資産・技術者の習熟・検証の実績が すべてそのツールに蓄積し、乗り換えの費用が年々上がる。先端ノードの製造プロセスとの擦り合わせも ファウンドリと大手3社の間で先行して行われるため、後発が同じ土俵に立つこと自体が難しい。
5.4 設計ソフトは輸出管理の対象である — 1億4,060万ドルの和解金
線を1本引くための道具が、露光装置と同じ輸出規制の下にある。ケイデンスは2015年から2021年にかけての 輸出違反をめぐり、2025年度に米商務省産業安全保障局 (BIS) および司法省と和解した。 罰金と没収の純額1億4,060万ドルを支払い、損益計算書に1億2,850万ドルの損失を計上、 継続的な監査と法令順守の義務を負う。同社の地域別売上は米国44%・中国13%・日本6%で、 規制と商売が同時に走っている。⑨で扱う「中国は設計はできる、製造で壁」という構図の裏には、 設計の道具そのものが規制対象であり続けるという前提がある。
📌 この章の要点 (試験・レポート向け)
1. EDAは仕様→論理合成→配置配線→検証→製造適合→テープアウトという抽象度変換の連鎖であり、1段でも欠けるとチップは作れない。
2. 供給者一覧は資本関係で読み替える。アンシス (シノプシス傘下)・コベンター (ラムリサーチ傘下)・ブライオン (ASML傘下)・アルティウム (ルネサス傘下) — 名前の数と意思決定の数は違う。
3. 寡占の根拠は費用構造にある。研究開発費比率33〜35% (日本のソフトウェア業平均の10倍)、粗利率77〜86%、使用権契約による固定化。
4. EDAは輸出管理の対象。売上規模は装置大手より小さいが、供給停止は設計の起点を止める — 小さな売上が大きな産業の入口を握る。
🔗 数値の出典と検証過程: 設計ツール30社の一覧を資本関係と提出書類で検算した記事 / 関連: 独自メモリとパッケージ面積の逆算 ・ 用語辞典で「EDA」「TCAD」「DFM」を引く
⑥ アルゴリズム・計算モデル
回路と計算手順は互いを見ながら進んできた。AIの推論の大半を占める行列の掛け算をどう速くするか、CPUが先回りして実行する仕組みは何を代償にしたか、 そして汎用と専用のどちらに寄せるかという選択を順に見る。
6.1 AI向けの回路 — 速くすべき計算は1種類しかない
AIの推論の約95%は行列の掛け算である。だからこの1種類を速くすることが設計の全部になる。 行列専用の演算器も、格子状に並べた積和演算器も、桁数を削る量子化も、注意機構の計算の組み替えも、行き着く先はすべてここにある。
| 技法 | 式 | 高速化 | 対応 HW | 理由 |
|---|---|---|---|---|
| GEMM (行列乗算) | C = αAB + βC | baseline | Tensor Core, Systolic Array | AI 推論の 95% が行列乗算。これを高速化することが全て |
| Tensor Core (エヌビディア) | 4×4×4 行列を 1 命令 | ×8 vs CUDA Core | H100 / A100 | FP16 → FP32 累積、1 サイクル 64 MAC、AI 専用ハード |
| Systolic Array (TPU) | 256×256 PE 格子流路 | ×30 vs GPU | グーグル TPU / Cerebras WSE | Weight stationary、データを格子に流し続け、メモリアクセス激減 |
| 量子化 INT8 | FP32 → INT8 (×0.25 サイズ) | ×4 速度・×4 メモリ | A100 / H100 / MLU 全 NPU | SmoothQuant / GPTQ で <1% 精度落ちで 4 倍速。LLM 推論の常識 |
| 量子化 FP8 | FP16 → FP8 (×0.5 サイズ) | ×2 速度・×2 メモリ | H100 / B100 | エヌビディア H100 で正式サポート、LLM 学習の主流に |
| Mixture of Experts (MoE) | N expert のうち k 個のみ活性化 | ×N/k | sparse 計算ハード (HBM 必須) | DeepSeek V3 = 671B params、活性化 37B のみ → メモリ帯域効率化 |
| FlashAttention | block tiling + recomputation | ×4-8 | GPU (SRAM 容量重要) | Attention O(N²) のメモリアクセスを SRAM 内完結化、Tri Dao の革命的アルゴリズム |
| KV Cache 圧縮 | GQA / MQA / MLA | ×2-10 帯域 | HBM 帯域効率 | DeepSeek MLA、KV cache を ×93% 削減、長文推論で必須 |
注意機構の計算の組み替え: 語数の2乗で増える記憶への出入りを、小さな区画に切って必要な値をその場で計算し直す方式に変えると、
演算器のすぐ隣の記憶だけで処理が閉じる。速さは4〜8倍になった。回路を変えずに計算手順の側で性能を引き出した代表例である。
この点は、回路の性能だけを比べても意味がないことを示す。輸出規制の対象になったAI半導体各社は、
エヌビディアの開発環境と互換ではないため、広く使われている学習ソフトの標準実装をそのまま動かせない。
回路の性能が8割あっても、周辺のソフトの成熟度で実効の速さが5分の1にとどまることが起きる。
6.2 CPUの先回り — 当たれば速く、外れれば30サイクル失う
今のCPUは1周期に8命令を同時に走らせ、600命令以上を順番待ちの列に並べておく。命令の流れが分かれる場所では、 どちらへ進むかを先に決めて実行してしまう。当たれば流れは止まらないが、外れると走らせた分をすべて捨てて30周期を失う。 このため分岐の予測は95%以上当てる必要があり、過去の履歴を長さの違う複数の表で照合する方式で95〜98%に達している。 2018年に公表された投機実行の脆弱性は、この「先に実行してしまう」設計の副作用として現れたものである。
| 技法 | 時代 | 効果 / 精度 | 副作用 | 理由 |
|---|---|---|---|---|
| 5-stage Pipeline | 1985- | ×5 throughput | pipeline hazard | Fetch → Decode → Execute → Memory → Writeback、MIPS 古典構造 |
| Superscalar (4-wide) | 1995- | ×4 IPC | 依存解析複雑 | 同サイクルで複数命令発行、Pentium Pro / アップル M3 = 8-wide |
| Out-of-Order (ROB) | 1996- | ×2 IPC | ROB 数百エントリ | 依存ない命令を先取り実行、後で正しい順序にコミット。アップル M3 = 600+ ROB |
| Branch Prediction (TAGE) | 2008- | 95-98% 精度 | Spectre 脆弱性 | 過去 64-2048 命令履歴をテーブル参照、ミスで pipeline flush 30 サイクル損失 |
| SMT (Hyper-Threading) | 2002- | +15-30% スループット | セキュリティ | 1 コアで 2 スレッド走らせ、スタール時間に他スレッド実行 |
| 投機実行 (Speculative) | 1990- | ×1.5 IPC | Meltdown | 分岐結果待たず先行実行、Spectre/Meltdown はこの副作用 |
| AVX-512 / SVE | 2017- | ×8-16 SIMD | 電力増 | 512-bit ベクトル命令、AI 推論・行列演算でも活用 |
6.3 回路と計算手順を一緒に設計する — 汎用と専用のどちらに寄せるか
回路は計算手順を速くするために設計され、計算手順は回路の制約を避けるために設計される。この往復が半導体の中身を決めてきた。 後から同じ土俵に立つのが難しいのは、回路そのものよりその上で動くソフトの蓄積の方が厚いためである。 エヌビディアの開発環境は17年分の最適化が層になっており、行列計算・深層学習・推論の各段に専用の実装が積み上がっている。
| アプローチ | 柔軟性 | 効率 | ecosystem 成熟度 | 中国例 | 日本例 | 理由 |
|---|---|---|---|---|---|---|
| 汎用 GPU (エヌビディア) | ★★★★★ | 10-30% | ★★★★★ (CUDA 17 年) | Moore Threads、MetaX (CUDA 互換目指す) | — (依存) | 任意 ML model 動く。cuDNN / cuBLAS / TensorRT で全 framework 最適化済 |
| 専用 ASIC (TPU) | ★ | 70-90% | ★★★ (XLA 限定) | Cambricon MLU、HiSilicon Ascend | Preferred Networks MN-Core 2、NEC SX-Aurora | 特定 workload (Transformer 等) のみ高効率。汎用性犠牲、ecosystem 構築が課題 |
| Open Source ISA (RISC-V) | ★★★★ | カスタム次第 | ★★ (成長中) | Alibaba 玄鉄、HiSilicon、ZTE | Tenstorrent (ラピダス連携) | 中国が米国 ISA (x86/Arm) 依存から脱却するための戦略的選択。Arm 制裁回避 |
| Cerebras WSE-3 | ★★ | 90%+ | ★ (独自) | — (国家戦略上の隔離) | — | 円板全体 = 1 チップ、46 万コア、SRAM 44GB、究極の専用化 |
6.4 人工知能を動かす5つの計算機 — CPU・GPU・TPU・NPU・LPU は何を捨て、何を取ったか
人工知能の計算を担う半導体は、今日おおむね5つの設計に分かれる。中央演算処理装置 (CPU)、画像処理半導体 (GPU)、テンソル処理装置 (TPU)、AI処理装置 (NPU)、言語処理装置 (LPU) である。5つは性能の序列ではなく、柔軟性・並列度・記憶への近さという3つの物差しのどれを優先するかで分かれた設計思想の違いにあたる。汎用性を1段手放すごとに、決まった計算の効率が1段上がる。
| 設計 | 演算器の置き方 | 演算器に最も近い記憶 | 実行の決め方 | 向く仕事 | 設計の理由 |
|---|---|---|---|---|---|
| CPU | 少数の強い演算核 (数個〜数十個) | 階層化した高速記憶 (L1/L2/L3) の先に主記憶 DRAM | 実行時に機械が判断 (投機実行・分岐予測) | 基本ソフト・データベース・条件分岐の多い処理 | 「次に何をするか」が実行中に決まる仕事では、判断の速い核を少数持つ方が、単純な核を大量に持つより速い |
| GPU | 数千の小さな演算核が同じ命令を別のデータに当てる | 外付けの高帯域記憶 (HBM)。H100で80GB・毎秒3.35TB | 同じ命令の束を機械が並列に流す | 深層学習の学習と推論 | 行列の掛け算は同じ操作の繰り返しで、判断は要らない。核の数がそのまま速さになる |
| TPU | 積和演算器を格子状に並べる (シストリックアレイ) | 外付けの高帯域記憶。TPU7xで192GB・毎秒7.37TB | コンパイラが実行の全順序を事前に決める | ニューラルネット専用。学習と推論の両方 | 重みを片側から、活性値をもう片側から流し、途中結果を記憶へ戻さない。往復を省いた分だけ電力と時間が減る |
| NPU | 積和演算器の配列に内蔵の静的記憶 (SRAM) を添える | 内蔵SRAM。高帯域記憶は持たず、端末の主記憶を共用 | コンパイラと機械の折衷 | 携帯端末・腕時計・機器内蔵の推論 | 1桁ワットの電力で動かすには、外付けの高帯域記憶が電力面で使えない。載る大きさのモデルに絞る |
| LPU | 演算器と重みを同じ基板の静的記憶に同居させる | 内蔵SRAMのみ (1個230MB)。外部記憶は経路に無い | 実行順をコンパイル時に完全に確定 (決定的) | 大規模言語モデルの推論 (応答の速さ重視) | 記憶の取りこぼしも実行時の待ちも構造上起きない。代わりに1個の記憶が小さく、数百個を並べて1つのモデルを分担する |
CPUは「次に何をするか」を実行しながら決める計算機である。少数の強い演算核が分岐と判断を受け持ち、深い階層の高速記憶で主記憶 (DRAM) との距離を隠す。6.2で扱った分岐予測と投機実行はこの設計の帰結で、判断の多い基本ソフトやデータベースでは今も最速だが、同じ掛け算を何億回も繰り返す行列演算では、判断の仕組みそのものが重荷になる。
GPUは判断を捨てて数を取った。数千の小さな演算核が同じ命令を別のデータへ同時に当てる方式で、行列の掛け算がそのまま並列の形をしているため、深層学習の学習に直結した。外付けの高帯域記憶 (HBM) から重みを読み出して演算核へ配る構造で、記憶の帯域が上限を決める場面が多い。この点は6.5で数式にする。
TPUはさらに1段専用化した。演算の中心は積和演算器を格子に並べたシストリックアレイで、重みを片側から、活性値をもう片側から流し込むと、途中の和が隣の演算器へ波のように伝わる。途中結果を記憶へ書き戻さないため、GPUで最も電力を食う「記憶との往復」が構造上減る。どの演算器がいつ何を受け取るかはコンパイラが事前に全部決め、実行時に機械が予定を組み替えることはない。グーグルが自社の学習と推論のために設計し、2025年11月に公開した第7世代 TPU7x (アイアンウッド) は1個あたり高帯域記憶192GB・毎秒7.37TB、8ビット浮動小数で4,614テラFLOPS、9,216個までを1系統の接続網で束ねる。
NPUは同じ積和演算器の配列を、電力1桁ワットの端末へ収めた設計である。高帯域記憶は消費電力の面で載せられないため、内蔵の静的記憶 (SRAM) と端末の主記憶を組み合わせる。アップルの Neural Engine、インテルとクアルコムの NPU がこの型にあたり、公開仕様では M4 が38 TOPS、Core Ultra 200V が48 TOPS、Snapdragon X が45 TOPS である。マイクロソフトが Copilot+ PC の要件に置いた「40 TOPS」は、技術上の境目ではなく2024〜2025年に認定したい半導体に合わせて引いた販売上の線で、38 TOPS の M4 が実際の処理で上回る例も報告されている。数字の大小より、内蔵記憶の容量と主記憶の帯域が実際の速さを決める。
LPUは最も新しい設計で、米グロックが大規模言語モデルの推論に絞って作った。外部記憶を計算の経路から完全に外し、重みをすべて基板上の静的記憶に置く。1個あたりの容量は230MB、製造は GlobalFoundries の14ナノメートル世代である。実行順はコンパイル時に全部確定するため、記憶の取りこぼしも実行時の待ちも構造上起きず、応答の速さは決定的に読める。代償は1個に載る記憶の小ささで、700億パラメータのモデルには約576個を並べて分担させる。GPUなら8個で足りる仕事を、数十倍の個数で受ける代わりに、1語目が返るまでの時間を短くした設計にあたる。
6.5 記憶が計算を縛る — なぜ推論は「記憶律速」になるのか
5つの設計が記憶の置き方で分かれる理由は、1本の不等式で説明できる。計算機が出せる速さは、演算器の最高速度と、記憶から運べる速度のうち低い方で決まる。
到達できる速さ = min ( 演算器の最高速度 , 記憶の帯域 × 演算密度 )
演算密度 = 記憶から1バイト運ぶごとに何回の演算ができるか。この比が小さい仕事は、演算器がいくら速くても記憶の帯域で頭打ちになる。これを記憶律速と呼び、比が大きい仕事を演算律速と呼ぶ。
大規模言語モデルの推論は、この比が極端に小さい。1語を生成するたびにモデルの重みを全部読み出す必要があるためで、1,000億パラメータを8ビットで持てば約100GBを、1語ごとに記憶から演算器へ運ぶことになる。H100 の記憶帯域は毎秒3.35TBだから、100GBの読み出しだけで約30ミリ秒かかり、その間の演算量はごくわずかである。演算器は待っているだけになる。学習では多数の文を束ねて1回の読み出しで多くの演算を回せるため演算律速に寄るが、1人の利用者に1語ずつ返す推論では束ねる相手がおらず、記憶律速から抜けにくい。
5つの設計はこの不等式への答え方の違いになる。GPUと TPU は外付けの高帯域記憶の帯域そのものを上げる道を選び、TPU はさらにシストリックアレイで途中結果の書き戻しを省いて往復の回数を減らした。NPU は載せるモデルを小さくして読み出し量を減らす。LPU は記憶を演算器の隣に置いて帯域の問題を距離で解いたが、その記憶が小さいため個数で補う。どの設計も記憶律速から逃げているのであって、演算器を速くしているのではない。GPUの計算核を書き直す人工知能の検証記事で扱ったカーネル最適化も、実態は記憶との往復を減らす作業である。
6.6 提出書類で見る5つの設計の現在地 — 「最も新しい参入者」はすでにエヌビディアへ技術を渡した
5つの設計の説明はしばしば「汎用から専用へ進化した」という一本道の物語で語られるが、資本の動きを提出書類で追うと、専用の側が汎用の側に取り込まれていく逆向きの流れが見える。
最も新しい設計とされるLPUのグロックは、2025年12月にエヌビディアと200億ドルの技術供与契約を結んだ。形式は非独占の使用許諾で、創業者ジョナサン・ロス氏と社長、中核の技術者はエヌビディアへ移り、グロック社はクラウド事業を残して存続する。同社が2025年9月に7億5,000万ドルを調達した時点の評価額は69億ドルだったから、供与額はその2.9倍にあたる。1ドル158.91円 (米セントルイス連邦準備銀行の統計、2026年8月21日) で換算すれば約3兆1,782億円である。「GPU一強を崩す挑戦者」として語られてきた設計は、商品として市場に定着する前に、GPUの供給者が自社の推論製品へ取り込む形で決着した。汎用の側が専用の側を買う、という向きである。
TPU は逆に外へ出た。長く自社利用に限られていたグーグルの設計は、2025年10月にアンソロピックが最大100万個を使う契約を結び、2026年に1ギガワット超の容量を立ち上げる。金額は数百億ドル規模と公表されている。アルファベットが米証券取引委員会に提出した年次報告書によれば、同社の設備投資は2023年12月期の322億5,100万ドルから2025年12月期の914億4,700万ドルへ、2年で2.84倍になった。円換算で約14兆5,318億円で、TPU はこの投資の中で作られる。エヌビディアの研究開発費は同じ2年で86億7,500万ドルから184億9,700万ドルへ2.13倍に増えており、汎用の側も専用の側も、記憶と接続網に金を注ぐ点では同じ方向を向いている。
日本の位置を金融庁の EDINET と経済産業省の統計で置く。5つの設計のどれも、日本の会社が主役として作っているものはない。日本の持ち分は特注設計の請負と、端末内の小型推論回路と、製造装置の側にある。特注の演算基板を設計するソシオネクストは2026年3月期の売上高2,008億3,400万円に対し研究開発費585億800万円で、売上の29.13%を設計に充てる。端末内の推論回路を製品に組み込むルネサスエレクトロニクスは2025年12月期の売上高1兆3,212億1,200万円、研究開発費2,403億円 (18.19%) である。国内生産では、鉱工業指数 (2020年を100とする) のモス型集積回路のうち論理回路が2023年の138.3から2025年に119.5へ下がった後、2026年1〜3月期に130.3へ戻し、記憶素子は2025年に163.8、半導体製造装置は2026年1〜3月期に185.2と統計開始以来の最高を付けた。計算機の設計競争が過熱するほど、それを作る装置の需要が日本に落ちる構図が数字に出ている。
📌 6.4〜6.6の要点
① 5つの設計は性能の序列ではなく、柔軟性・並列度・記憶の近さのどれを優先するかの違いである。
② 推論は「1語ごとに重みを全部読む」ため記憶律速になり、5つの設計はいずれも演算器ではなく記憶の置き方で速さを稼いでいる。
③ NPU の「40 TOPS」は販売上の線であり技術の境目ではない。内蔵記憶と主記憶の帯域を見る。
④ 最も新しいLPUは2025年12月にエヌビディアへ200億ドルで技術供与され、専用が汎用に取り込まれた。TPUは外販へ転じ、アルファベットの設備投資は2年で2.84倍。
⑤ 日本の持ち分は特注設計・端末内推論・製造装置にあり、装置の生産指数は2026年1〜3月期に統計開始以来の最高。
用語は用語辞典の TPU・NPU・LPU・シストリックアレイ・記憶律速を参照。
🧰 ツール・特集の入口
一次データで動く 14 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)