🔎 AI計算資源・大規模モデル 用語辞典 — 「とは」から引く

1秒あたりの浮動小数点演算回数。AIの計算資源の基本単位で、モデルの訓練量は「総FLOPs」で見積もる。

関連: TOPS,GPU

同じ計算を大量に並列実行する演算装置。行列計算の塊である深層学習と相性がよく、AI計算資源の中心。CPUとの違いは「速さ」でなく「並列の幅」。

関連: FLOPS,HBM

DRAMを縦に積んで広帯域を稼ぐメモリー。GPUの隣に置かれAIの学習・推論の帯域を支える。市場は2025年約350億ドル→2026年約600億ドルへ拡大。

関連: HBF,KVキャッシュ,CoWoS

生成中に過去の文脈の計算結果を蓄えるメモリー領域。文脈長に比例してGPUメモリーを食うため、「128k対応」の物理的な裏側にあたる。

関連: HBM,注意機構

入力ごとにルーターが一部の専門家 (部分ネットワーク) だけを起動する構造。総パラメータを増やしつつ計算量を抑える、大型モデルの主流設計。

関連: スケーリング則

データセンター全体の消費電力をIT機器の消費電力で割った冷却効率の指標。1.0に近いほど良く、電気代と収益性に直結する。

関連: 電力密度

外部の文書を検索してモデルの文脈に注入する方式。モデルを再訓練せずに最新・私有の知識を使わせる、企業導入の標準手法。

関連: 幻覚,埋め込み

「どの語に注目するか」を計算で決める注意機構を核にしたモデル構造。2017年の登場以来、大規模言語モデルの標準設計になっている。

関連: 注意機構,トークン

モデルの重みを公開し、誰でも改変・自前運用できる提供形態。無償配布が事実上の標準を作る戦略で、米中のAI経済圏競争の争点になっている。

関連: ソブリンAI

計算量・データ量・パラメータ数を増やすほど性能が予測可能に伸びるという経験則。AI投資の拡大を正当化してきた根拠であり、限界の議論も常にここから始まる。

関連: FLOPS

自国の計算資源・データ・モデルを自国の管理下に置くという政策概念。学術用語ではなくNVIDIA決算説明会 (2023年11月) 発の市場カテゴリーで、定義は3系統ある。

関連: オープンウェイト

サーバー・記憶装置・通信網を収容し電力と冷却を供給する施設。AI時代は「建てる速さ」より受電容量が制約になり、直近90日の記事125本に登場する最頻テーマ。

関連: PUE,電力密度

大規模モデルが扱う文字列の最小単位 (日本語で概ね1〜2文字)。APIの課金も原価もトークン数で数えるため、AI経済の通貨にあたる。

関連: トークン原価,自己回帰生成

モデルが事実でない内容を自信を持って出力する現象。「最も確からしい次の語」を選ぶ設計の必然であり、根絶ではなく抑制と検証で扱う。

関連: 自己回帰生成,RAG

売り手が買い手に出資し、出資先がその資金で自社製品を買う構図への批判的呼称。実態の判定は投下額を顧客側と供給側に仕分けて行う (NVIDIAの2026年6月末13Fでは顧客側36%)。

関連: トークン原価

文中のどの語を重視するかを重み付けする仕組み。文脈理解の正体であり、計算量が文脈長の2乗で増えるため計算資源問題の根源でもある。

関連: Transformer,KVキャッシュ

1トークンずつ、確率分布から次の1語を選んで文章を作る生成方式。長い出力ほど計算が積み上がる構造が、推論コストの正体。

関連: トークン,幻覚

訓練=モデルの重みを作る工程、推論=作った重みで答えを生成する工程。同じGPUでも商売としては別物で、収益の主戦場は推論に移っている。

関連: トークン

ラック1本あたりの消費電力 (kW)。AIサーバーで100kW級に達し、空冷の限界を超えて水冷への移行を強制している。設備選定の最上位の物差し。

関連: PUE