GPUとは

第I部 基礎 ① 計算資源とは何か — AIの能力は演算の堆積である

大規模モデルは、訓練 (学習) 中も回答生成 (推論) 中も、底の底では天文学的な回数の掛け算と足し算を繰り返しているだけである。 「計算能力が強い」とは、同じ算数の問題群を、誰がより速く・より効率よく・誤りなく解き切れるかに尽きる。 1.1 単位系 — FLOPS・TOPS・トークン・GPU時間 AIの世界で飛び交う単位は、突き詰めると「演算の速さ」「演算の総量」「言葉の量」の3種類しかない。 投資判断で混同しやすいのは、FLOPS (速さ=フロー) と FLOP (総量=ストック) の区別である。 日本語の「1トークン=約1〜2文字」は目安である。各社は日本語の公式な文字対トークン比を公表しておらず、 比率はトークナイザによって変わる。課金の見積りをするなら自社の文書で実測するのが唯一確実な方法になる。 1.2 数値精度 — なぜ「桁を削る」と速くなるのか 同じチップでも、数値の桁数 …

→ 続きを読む (体系解説)

第III部 設計する ⑥ アルゴリズム・計算モデル

ハードウェアとアルゴリズムの共進化。AI 推論の 95% を占める行列演算最適化、CPU 投機実行の物理学、そして HW/SW 共設計の戦略選択。 6.1 AI チップ — Transformer 時代の最適化 行列乗算 GEMM が AI 推論の 95% を占めるため、これを高速化することが全て。Tensor Core / Systolic Array / 量子化 / FlashAttention は全てここに帰着する。 FlashAttention の革命: Attention 計算 O(N²) のメモリアクセスを block tiling + recomputation で SRAM 内完結 → 4-8 倍高速化。 Tri Dao の博士論文発、アルゴリズム改善でハードウェア性能を引き出した例。 中国 AI GPU 制裁組 (Cambricon / Biren / Enflame /…

→ 続きを読む (体系解説)

第III部 経済 ⑥ 計算資源提供事業の経済性 — GPU 1基の収支から読む

本節が本ページの核心である。計算資源提供 (GPUクラウド) は「GPUを買って時間貸しする」だけの単純な商売に見えるが、 収益性は稼働率・契約形態・電力原価・陳腐化速度の4変数でほぼ決まる。 以下は概算モデル (推定値は明記) と、業界内では常識だが対外的にはあまり語られない実務数値である。 6.1 GPU 1基の収支モデル (H100級・概算) この表の性格 — 外部機関の推計ではなく、本ページの試算である 取得原価はNVIDIAが公表していない。市場で報じられた水準を置いたものであり、一次情報は存在しない 稼働率は公開されない数字。事業者が開示しないため、ここでは幅を置いた仮定にとどまる 電力・冷却原価はGPUを実効1kW、PUEを織り込まない前提での概算。実際はサーバ側の消費とPUEが乗って1.2〜1.6kW相当になるため、下限は現実には出にくい したがってこの表に出典リンクは付け…

→ 続きを読む (体系解説)