決定論的実行とは
読み: けっていてきじっこう Deterministic Execution AI計算資源・大規模モデルの用語
決定論的実行とは、処理の順序と所要時間が、プログラムを変換する時点ですべて決まり、実行のたびに変わらない方式。キャッシュの有無や処理の競合による待ちが生じないため、応答時間が一定になる。グーグルの第1世代TPUが採用し、グロックのLPUがチップ間の通信にまで広げた。柔軟性と引き換えになる。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。各段の抜粋は解説本文の冒頭で、続きはリンク先にある。
processors 7. LPU — 記憶を演算器の隣に置く。実時間の言語モデル配信
ひとことで言うと — LPUは「文章を1語ずつ、待たせずに返す」ことだけに絞った計算機である。重みを外の記憶に置かず、演算器と同じ基板の上の速い記憶に全部置く。1個には少ししか載らないので、数百個をつないで1つのモデルを動かす。 1語を生む時間の式 第2節で見たとおり、1語ずつの生成は記憶律速である。時間は次の割り算でほぼ決まる。 1語あたりの時間 ≒ 重みの大きさ ÷ 記憶の帯域例: 700億パラメータ・8ビット ＝ 70GB。H100のHBMは毎秒3.35TB → 70 ÷ 3,350 ＝ 約20.9ミリ秒 (毎秒約48語)同じ1語の計算は 1,400億回 ÷ 毎秒1,979兆回 ＝ 約0.07ミリ秒 読む時間が計算する時間の約300倍かかっている。GPUでこの仕事を速くする方法は、装置を並べて重みを分けるか、要求を束ねて処理量を稼ぐかの2つで、後者は1本あたりの待ちを伸ばす。「1人の…
関連する用語
出典・注記: 第IX部 計算機 の新設に伴い採用 (2026-09-17)
🧰 ツール・特集の入口
一次データで動く 11 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)