決定論的実行とは
読み: けっていてきじっこう Deterministic Execution AI計算資源・大規模モデルの用語
決定論的実行とは、処理の順序と所要時間が、プログラムを変換する時点ですべて決まり、実行のたびに変わらない方式。キャッシュの有無や処理の競合による待ちが生じないため、応答時間が一定になる。グーグルの第1世代TPUが採用し、グロックのLPUがチップ間の通信にまで広げた。柔軟性と引き換えになる。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。抜粋は体系解説でこの語が出てくる箇所から引いた。続きはリンク先にある。
processors 7. LPU — メモリーを演算器の隣に置く。リアルタイムの言語モデル推論
ひとことで言うと — LPUは「文章を1トークンずつ、待たせずに返す」ことだけに特化した計算機である。重みを外付けのメモリーに置かず、演算器と同じチップの上にある高速なメモリーにすべて置く。チップ1個にはわずかな量しか収まらないので、数百個を連結して1つのモデルを動かす。 1トークンの生成時間を決める式 第2節で見たように、1トークンずつの生成はメモリー律速である。所要時間は次の割り算でほぼ決まる。 1トークンあたりの生成時間 ≒ 重みのデータ量 ÷ メモリーの転送速度例: 700億パラメータ・8ビット ＝ 70GB。H100のHBMは毎秒3.35TB → 70 ÷ 3,350 ＝ 約20.9ミリ秒 (毎秒約48トークン)同じ1トークン分の演算は 1,400億回 ÷ 毎秒1,979兆回 ＝ 約0.07ミリ秒 重みの読み出しに、演算の約300倍の時間がかかっている。GPUでこの処理を速くする…
関連する用語
出典・注記: 第IX部 計算機 の新設に伴い採用 (2026-09-17)
🧰 ツール・特集の入口
一次データで動く 14 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)