Transformerとは
読み: とらんすふぉーまー Transformer AI計算資源・大規模モデルの用語
Transformerとは、「どの語に注目するか」を計算で決める注意機構を核にしたモデル構造。2017年の登場以来、大規模言語モデルの標準設計になっている。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。抜粋は体系解説でこの語が出てくる箇所から引いた。続きはリンク先にある。
基礎知識篇
まず押さえる仕組み
第II部 仕組み ② AIの仕組み — なぜ次の1語が当たるのか
…1トークンが出るまでの処理の流れ 入力文をトークンに分け、埋め込みと位置情報を与え、Transformerブロックを繰り返し通し、ロジットから確率を計算して1トークンを選び、それを末尾に足して再び戻る自己回帰の流れ。KVキャッシュは繰り返しのたびに再利用され、増え続ける。 入力文「AIの仕組みを教えて」 ① トークン化 AI の 仕組 みを 教えて 単語ではなく統計で決めた切れ目 ② 埋め込み + 位置情報 数百〜数千次元のベクトル列 ③ Transformerブロック × N層 注意機構 (全トークン対の関連度) 系列長の2乗に比例 前向き層 (FFN) パラメータの多くを占める KVキャッシュ 過去トークンの計算結果を保存し、 次の1トークンで再利用する 生成が進むほど増え続ける ④ ロジット (語彙数分のスコア) まだ確率ではない ⑤ 温度で割って softmax → 1個選ぶ こ…
高級知識篇
一段深い原理
関連する用語
Transformerを扱った検証記事
🧰 ツール・特集の入口
一次データで動く 14 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)
銘柄スキャナー
日本株 563 社を有報の連結実数・空売り残高・逆日歩・信用残・自社株買い・大株主の増減で絞り込む (無料・登録不要)
注目IPO一覧
直近の新規上場を上場日順に。どんな会社か一言・主な事業・注目テーマ・公開価格・初値と騰落率・吸収金額・売上の推移を目論見書と JPX 新規上場会社情報から確かめて 1 社 1 行で
サプライチェーン3Dマップ
日本株と、エヌビディア・インテルなど米国の半導体・AI 企業、SMIC・BYD など中国企業のつながりを 3D ネットワークで俯瞰。銘柄をクリックして供給網をたどる
AI企業 比較ツール
オープンAI・アンソロピック・グーグル等の主要 AI 企業を、開示の実数と主力モデルで横並び比較
半導体企業 比較ツール
エヌビディア・TSMC・ASML から東京エレクトロン・ディスコまで、工程・製品・日本企業との取引で横並び比較
系統用蓄電所ランキング 上場48社
送電網に直結した系統用蓄電所のうち、稼働中の設備に一次ソースで名前が出る上場企業 48 社を蓄電容量の企業別合算で順位付け
世界のデータセンター一覧
世界 169 か国 5,875 拠点のデータセンターを日本語で一覧化。運営事業者・所在都市・接続ネットワーク数・回線事業者数から設置先を比較
AI計算資源・大規模モデル 体系解説
トークン化・注意機構・自己回帰・MoE の仕組みから、FLOPS・トークン原価・GPU クラウドの収支・冷却まで、設計理由を投資家視点で
蓄電事業 体系解説
系統用蓄電池の基礎、設備と系統接続、3つの市場と長期オークションの収支、日本と米国・G7の市場、投資前の確認表。収支シミュレーター付き
蓄電池の補助金一覧
産業用蓄電池と系統用蓄電池の国の補助金を、補助率・上限・公募期間・要件で比較。受付中の事業と補助額の概算
Postation AIアカデミー
IPA の DX 推進スキル標準 6 類型 17 ロールを、理論・アルゴリズム・メカニズムの 3 視点で書き下ろした教科書
半導体 用語辞典
半導体の技術用語を「とは」から引く索引。1 行定義と、基礎・高級・投資者視点の 3 段深度で 1 語 1 ページ
イラン制裁×中国製油所×日本株
イラン産原油禁輸の復活、中国独立系製油所 5 社への OFAC 制裁、ホルムズ海峡の戦争保険料を、規制タイムラインと日本株マップで
中国の対日輸出規制リスト×影響銘柄
中国商務部が 2026 年 2 月・6 月に指定した対日輸出規制の管理リスト 40 団体・注視リスト 40 団体と、リスト入りした日本企業・影響銘柄