量子化とは
読み: りょうしか Quantization AI計算資源・大規模モデルの用語
量子化とは、学習済みの重みを、16ビットや32ビットの小数から8ビットや4ビットの整数に変換すること。「実数＝目盛りの幅×(整数−ゼロ点)」の式で対応させる。演算器が小さくなり、消費エネルギーが1桁以上下がり、重みのデータ量も半分から4分の1になる。端末内で推論を行うための土台となる技術。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。抜粋は体系解説でこの語が出てくる箇所から引いた。続きはリンク先にある。
processors 6. NPU — ビット数を減らして端末で推論する。量子化の数学
…NPUの処理の5段階は、利用者が入力する、端末内のNPUが起動する、量子化したモデルで推論する、ミリ秒単位で応答する、即座に出力する、である。クラウドでの推論と違い、ネットワークを往復する段階がない。通信の往復には国内でも数十ミリ秒、混雑時には数百ミリ秒かかる。音声の聞き取りや文字入力の補完のように、利用者が待てない用途では、端末内で処理が完結することがそのまま使い心地の差になる。写真や音声を端末の外に送らないことは、個人情報の保護の面でも利点になる。 量子化 — 実数を整数に対応させる式 学習済みの重みは、16ビットか32ビットの小数として保存されている。NPUはこれを8ビットや4ビットの整数に変換して計算する。変換の方法は、グーグルの研究者が2017年に示した次の式が基本になっている。 実数 r ＝ S × ( q − Z ) q ＝ 整数 (8ビットなら0〜255)、S ＝ 目盛り…
関連する用語
出典・注記: 第IX部 計算機 の新設に伴い採用 (2026-09-17)
🧰 ツール・特集の入口
一次データで動く 14 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)