自己回帰生成とは
読み: じこかいきせいせい Autoregressive Generation AI計算資源・大規模モデルの用語
自己回帰生成とは、1トークンずつ、確率分布から次の1語を選んで文章を作る生成方式。長い出力ほど計算が積み上がる構造が、推論コストの正体。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。抜粋は体系解説でこの語が出てくる箇所から引いた。続きはリンク先にある。
第II部 仕組み ② AIの仕組み — なぜ次の1語が当たるのか
…2.3 自己回帰生成 — 1トークンずつ、確率から1個選ぶ 回答が1文字ずつ出てくるのは演出ではない。モデルは1トークン出すたびに全層を通し直している。 同じ質問で答えが変わるのも、温度という設定が効くのも、すべてこの工程の④で起きている。 2.4 学習時と推論時、計算の中身は何が違うのか ①1.5節では訓練と推論を「別の商売」として区別した。 ここでは同じ区別を計算とメモリの中身から見る。要点は、学習ではメモリの大半が重み以外に消えること、 そして推論では重みが1ビットも動かないことである。後者は情報漏洩の議論で最も誤解される点でもある。 2.5 MoEの動作原理 — ルーターが専門家を選ぶ ③3.2節の系譜表が示すとおり、総パラメータと有効パラメータの乖離は MoEによって生まれる。ただし「専門家」は人が分野を割り当てたものではない。 ルーターが学習の結果として勝手に作った分業であり…
第III部 経済 ④ 収益化の構造 — トークンはどう金に変わるか
モデル提供社の収益は大きく個人購読 (月額定額) と企業向けトークン従量課金 (API) の2本柱で、 これに大企業向けの専用容量契約が加わる。価格を決める変数は有効パラメータ量・文脈長・速度の3つに集約される。 4.1 個人購読 — 定額制は「保険」の商売である 月額20ドル前後の購読は、軽い利用者の払い過ぎが重い利用者の原価を補助する保険型の収益構造である。 提供側は利用上限・混雑時制限で重利用者の原価を抑え、全体で粗利を成立させる。 解約率が低く売上が読めるため、資本市場はAPI売上より購読売上を高く評価する傾向がある。 4.2 トークン従量課金 — 価格表の読み方 API価格は「入力100万トークンあたり / 出力100万トークンあたり」で表示される。 出力が入力の約5倍高いのは気まぐれではなく、入力の読込 (プリフィル) は一括並列で安く処理できるのに対し、 出力の生成 (デコー…
関連する用語
🧰 ツール・特集の入口
一次データで動く 14 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)