記憶律速とは
読み: きおくりっそく Memory-bound 半導体の用語
記憶律速とは、計算機の速さが演算器ではなく記憶から運べる速度で頭打ちになる状態。到達できる速さは「演算器の最高速度」と「記憶の帯域×演算密度」の低い方で決まり、演算密度 (1バイト運ぶごとの演算回数) が小さい仕事は記憶律速に落ちる。大規模言語モデルの推論は1語ごとに重みを全部読むため典型例で、5つの計算機の設計はいずれもここから逃げるための記憶の置き方の違いにあたる。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。各段の抜粋は解説本文の冒頭で、続きはリンク先にある。
第III部 設計する
id="sec-3-5arch" style="scroll-margin-top:80px;"> 6.4 人工知能を動かす5つの計算機 — CPU・GPU・TPU・NPU・LPU は何を捨て、何を取ったか 人工知能の計算を担う半導体は、今日おおむね5つの設計に分かれる。中央演算処理装置 (CPU)、画像処理半導体 (GPU)、テンソル処理装置 (TPU)、AI処理装置 (NPU)、言語処理装置 (LPU) である。5つは性能の序列ではなく、柔軟性・並列度・記憶への近さという3つの物差しのどれを優先するかで分かれた設計思想の違いにあたる。汎用性を1段手放すごとに、決まった計算の効率が1段上がる。 図 6-4 — 左から右へ汎用性を手放し、並列度と記憶の近さを取っていく。下段の「2026年の現在地」は本文6.6で提出書類と発表に当たって検証した。 CPUは「次に何をするか」を実行しながら決め…
第III部 設計する
id="sec-3-5arch" style="scroll-margin-top:80px;"> 6.4 人工知能を動かす5つの計算機 — CPU・GPU・TPU・NPU・LPU は何を捨て、何を取ったか 人工知能の計算を担う半導体は、今日おおむね5つの設計に分かれる。中央演算処理装置 (CPU)、画像処理半導体 (GPU)、テンソル処理装置 (TPU)、AI処理装置 (NPU)、言語処理装置 (LPU) である。5つは性能の序列ではなく、柔軟性・並列度・記憶への近さという3つの物差しのどれを優先するかで分かれた設計思想の違いにあたる。汎用性を1段手放すごとに、決まった計算の効率が1段上がる。 図 6-4 — 左から右へ汎用性を手放し、並列度と記憶の近さを取っていく。下段の「2026年の現在地」は本文6.6で提出書類と発表に当たって検証した。 CPUは「次に何をするか」を実行しながら決め…
第III部 設計する
id="sec-3-5arch" style="scroll-margin-top:80px;"> 6.4 人工知能を動かす5つの計算機 — CPU・GPU・TPU・NPU・LPU は何を捨て、何を取ったか 人工知能の計算を担う半導体は、今日おおむね5つの設計に分かれる。中央演算処理装置 (CPU)、画像処理半導体 (GPU)、テンソル処理装置 (TPU)、AI処理装置 (NPU)、言語処理装置 (LPU) である。5つは性能の序列ではなく、柔軟性・並列度・記憶への近さという3つの物差しのどれを優先するかで分かれた設計思想の違いにあたる。汎用性を1段手放すごとに、決まった計算の効率が1段上がる。 図 6-4 — 左から右へ汎用性を手放し、並列度と記憶の近さを取っていく。下段の「2026年の現在地」は本文6.6で提出書類と発表に当たって検証した。 CPUは「次に何をするか」を実行しながら決め…