量子化とは
読み: りょうしか Quantization AI計算資源・大規模モデルの用語
量子化とは、学習済みの重みを、16ビットや32ビットの小数から8ビットや4ビットの整数に変換すること。「実数＝目盛りの幅×(整数−ゼロ点)」の式で対応させる。演算器が小さくなり、消費エネルギーが1桁以上下がり、重みのデータ量も半分から4分の1になる。端末内で推論を行うための土台となる技術。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。各段の抜粋は解説本文の冒頭で、続きはリンク先にある。
processors 6. NPU — 桁を削って手元で推論する。8ビットと4ビットの数学
ひとことで言うと — NPUはスマートフォンやノートパソコンの中にある推論専用の回路である。数字の桁を大胆に削って計算を軽くし、電池で動く数ワットの枠でAIを動かす。クラウドに送らないので速く、データが手元に残る。 NPUの5段の流れは、利用者の入力、端末内のNPUの起動、量子化した推論、ミリ秒での応答、即座の出力、である。クラウドの推論と違い、網を往復する段がない。往復の遅延は国内でも数十ミリ秒、混雑時は数百ミリ秒に達するので、音声の聞き取りや文字入力の補完のように「人が待てない」用途では、端末内で完結することがそのまま体験の差になる。写真や音声を外へ送らないことは、個人情報の扱いでも利点になる。 量子化 — 実数を整数に写す式 学習済みの重みは16ビットか32ビットの小数で保存されている。NPUはこれを8ビットや4ビットの整数に写して計算する。写し方は、2017年にグーグルの研究者が示…
関連する用語
出典・注記: 第IX部 計算機 の新設に伴い採用 (2026-09-17)
🧰 ツール・特集の入口
一次データで動く 11 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)