① 計算資源とは何か — AIの能力は演算の堆積である
大規模モデルは、訓練 (学習) 中も回答生成 (推論) 中も、底の底では天文学的な回数の掛け算と足し算を繰り返しているだけである。 「計算能力が強い」とは、同じ算数の問題群を、誰がより速く・より効率よく・誤りなく解き切れるかに尽きる。
1.1 単位系 — FLOPS・TOPS・トークン・GPU時間
AIの世界で飛び交う単位は、突き詰めると「演算の速さ」「演算の総量」「言葉の量」の3種類しかない。 投資判断で混同しやすいのは、FLOPS (速さ=フロー) と FLOP (総量=ストック) の区別である。
| 単位 | 正式名称 | 意味 | 主な用途 |
|---|---|---|---|
| FLOPS | Floating-point Operations Per Second | 1 秒あたりの浮動小数点演算回数。計算能力の基本単位 | GPU・スーパーコンピュータの性能表記 |
| TFLOPS / PFLOPS / EFLOPS | 10¹² / 10¹⁵ / 10¹⁸ FLOPS | テラ=1兆、ペタ=1000兆、エクサ=100京。H100 SXM 1基は BF16 で約989 TFLOPS (疎行列補正なし。PCIe版は約756で3割低い) | チップ単体=T、クラスタ=P〜E |
| TOPS | Tera Operations Per Second | 整数演算 (INT8等) の1兆回/秒。推論向けチップやスマートフォンNPUで使う | 端末内推論・車載 |
| トークン | token | モデルが読み書きする最小単位 (日本語で約1〜2文字、英語で約0.75語)。APIの課金単位 | 利用量・料金の単位 |
| GPU時間 | GPU-hour | GPU 1基を1時間使う量。訓練費用と賃貸価格の実務単位 (秒・分・時間・月契約で取引) | 計算資源の売買単位 |
日本語の「1トークン=約1〜2文字」は目安である。各社は日本語の公式な文字対トークン比を公表しておらず、 比率はトークナイザによって変わる。課金の見積りをするなら自社の文書で実測するのが唯一確実な方法になる。
出典: NVIDIA H100 製品仕様 / OpenAI: トークンとは何か
1.2 数値精度 — なぜ「桁を削る」と速くなるのか
同じチップでも、数値の桁数 (ビット幅) を半分にすれば理論上2倍の演算が通る。 AI訓練は厳密な小数精度を必要としないことが経験的に分かっており、業界は FP32→BF16→FP8 と精度を意図的に落として速度を買う方向に進化してきた。 カタログの「○○ PFLOPS」はどの精度での値か、さらに疎行列 (sparsity) 補正で2倍に水増しした値かを必ず確認する必要がある。
| 精度 | ビット幅 | 設計理由 | 主戦場 |
|---|---|---|---|
| FP32 | 32 bit | 科学計算の標準。AI訓練では過剰精度 | 従来のHPC・一部の勾配集約 |
| TF32 | 19 bit相当 | NVIDIAがFP32互換のまま高速化するため設計 | 訓練 (A100以降の既定) |
| BF16 | 16 bit | FP32と同じ指数部8bitを保ち、桁あふれに強い。Googleが考案 | 訓練の事実上の標準 |
| FP8 | 8 bit | H100世代から。同じシリコンで理論2倍の速度。DeepSeek-V3が訓練で実用化 | 最新の訓練・推論 |
| INT8 / INT4 | 8 / 4 bit | 整数化 (量子化)。精度をわずかに犠牲にして速度とメモリを2〜4倍稼ぐ | 推論の原価削減 |
出典: NVIDIA: TF32 Tensor Core / Google Cloud: BFloat16 / NVIDIA Hopper アーキテクチャ詳解 (FP8) / DeepSeek-V3 技術報告 (FP8訓練)
1.3 なぜGPUでCPUではないのか
深層学習の演算の実体は巨大な行列の掛け算で、これは「同じ形の単純計算を数万個並べて同時に解く」問題である。 少数の優秀な頭脳 (CPU) より、単純作業者の大軍 (GPU) が圧倒的に向く。
CPU — 逐次処理の設計思想
- コア数 8〜192個 (2024年以降の最上位はAMD EPYCが192コア級)。1コアが複雑な分岐・条件判断に強い
- 例え: 博士8人。難問は速いが、単純計算1万問は手が足りない
- キャッシュと分岐予測にシリコンの大半を使い、演算器は少ない
- AIでは前処理・制御・データ供給の脇役に回る
GPU — 並列処理の設計思想
- 演算コア1万個超 (H100は約1.7万CUDAコア)。全員が同じ命令を一斉実行
- 例え: 小学生1万人。掛け算1万問なら博士8人に圧勝する
- 本当の主役はメモリ帯域: H100のHBM3は3.35TB/秒。CPUの数百GB/秒とは桁が違う
- 行列積専用回路 (Tensor Core) で、さらに1桁上の実効性能を出す
- ソフトウェア資産 CUDA が15年分蓄積し、他社チップへの乗換障壁になっている
商流も特殊である。GPUは「買う」以外に秒・分・時間・月単位で借りる市場が確立しており、 NVIDIAは自社でクラウドを持たずとも、賃貸市場全体の元締めとしてほぼ全事業者に供給する立場にある。 利用者から見れば、計算資源は電気やガスと同じ従量課金の公共財的商品へと姿を変えつつある。
1.4 なぜ計算資源は足りないのか — 2本の指数曲線の傾きの差
「半導体は2年で2倍 (ムーアの法則) に良くなるのに、なぜ足りない?」への答えは単純で、需要側の指数の傾きが供給側より急だからである。 深層学習ブーム以降、最前線モデルの訓練計算量は数か月ごとに2倍 (2012〜2018年は約3.4か月ごと、直近も約半年ごと・推定) のペースで増えてきた。 2年で2倍しか増えない供給に対し、需要が半年で2倍になれば、差は開き続けるしかない。
| モデル | 年 | 訓練計算量 | 含意 |
|---|---|---|---|
| AlexNet | 2012 | 約 4.7×10¹⁷ FLOP (推定) | 深層学習ブームの起点。GTX 580を2枚で5〜6日 |
| GPT-2 | 2019 | 約 1.9×10²¹ FLOP (推定) | 15億パラメータ。7年で約4000倍。推定の確度は低く1.5〜2.5×10²¹の幅で報告される |
| GPT-3 | 2020 | 約 3.1×10²³ FLOP | 1750億パラメータ。論文付録に記載された公表値。V100換算で約355 GPU年 (第三者試算) |
| GPT-4 | 2023 | 約 2×10²⁵ FLOP (推定) | 非公表。外部推計で GPT-3 の約70倍 |
| 最前線モデル | 2025-26 | 10²⁶ FLOP 級 (推定) | 10万基級GPUクラスタが前提の水準 |
この表で公表値はGPT-3だけである (論文付録に3.14×10²³ FLOPと明記)。 他は第三者による推定で、特にGPT-2は確度が低い。GPT-4以降は各社が計算量を公表していないため、 外部推計に頼るしかない点を踏まえて読む必要がある。
出典: OpenAI: AI and Compute / GPT-3 論文 (付録D 表D.1) / Epoch AI: Notable AI Models
供給側の隘路はGPUだけではない
1.5 訓練 (学習) と推論 (生成) — 同じGPUでも別の商売
同じ演算でも、訓練と推論では計算の性質・失敗の許容度・お金の流れ方がまったく違う。 投資対象としての計算資源事業を見るときは、顧客が訓練需要か推論需要かで収益の安定性が変わる点が重要になる。
| 観点 | 訓練 (学習) | 推論 (生成) |
|---|---|---|
| 目的 | パラメータ (重み) を作る=学習 | 固定した重みで回答を生成する |
| 計算の性質 | 順伝播+逆伝播。演算量律速 (compute-bound) | 入力読込 (プリフィル) は演算律速、出力生成 (デコード) はメモリ帯域律速 |
| 期間・頻度 | 数週間〜数か月を1回 (巨額の一括投資) | 24時間365日 (継続する売上原価) |
| 失敗時 | 検査点 (チェックポイント) から再開。中断は日常茶飯事 | リクエスト単位の再試行で済む |
| 課金との対応 | GPUクラスタの長期予約 (月・年契約) | トークン従量課金・秒/分単位の貸出 |
計算量には広く使われる目安式がある。訓練は
C ≈ 6 × パラメータ数 × 学習トークン数、
推論は1トークンあたり約2×有効パラメータ数 (単位はFLOP)。
GPT-3で検算すると 6 × 1,750億 × 3,000億トークン ≈ 3.15×10²³ FLOP となり、公表値 (約3.14×10²³) とほぼ一致する。
この式1本で「モデル規模と学習データ量から必要GPU数と費用」を逆算でき、本ページ⑥の収支モデルの土台になる。
1.6 誤解の解体 — 「GPUを借りる」と「トークンを買う」は別の商品
入門者が最も混同しやすいのがこの2つである。どちらも「計算資源を金で買う」行為だが、課金対象・利用者・リスクの負い手が違う。
GPUを時間で借りる (計算資源のIaaS)
- 課金対象: GPU時間 (秒・分・時間・月・年)。予約 (リザーブド) とスポットの2形態
- 利用者: モデル開発社・研究機関・自前運用したい企業
- 稼働率リスク・故障リスク・陳腐化リスクは借り手と貸し手が分担
- NVIDIAの出荷先はこちら側。本ページ⑥の「計算資源提供事業」もこの商売
トークンを買う (APIの従量課金)
- 課金対象: 処理した言葉の量 (100万トークンあたり◯ドル)
- 利用者: 応用開発者・一般企業。GPUの存在を意識しなくてよい
- 稼働率・故障・陳腐化のリスクはすべてモデル提供社が抱え込む
- 価格には④で分解する原価+リスク負担料が織り込まれている