幻覚とは
読み: げんかく Hallucination AI計算資源・大規模モデルの用語
幻覚とは、モデルが事実でない内容を自信を持って出力する現象。「最も確からしい次の語」を選ぶ設計の必然であり、根絶ではなく抑制と検証で扱う。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。抜粋は体系解説でこの語が出てくる箇所から引いた。続きはリンク先にある。
第II部 仕組み ② AIの仕組み — なぜ次の1語が当たるのか
…2.6 なぜ幻覚が起きるのか — 設計上の必然と、直せる部分 幻覚 (もっともらしい嘘) は単一のバグではない。発生源が複数あり、対策ごとに効く相手が違う。 「検索を繋げば直る」「温度を下げれば直る」という理解は、いずれも半分しか当たっていない。 対策側から見ると、何が減らないかのほうが実務では重要になる。 温度を下げても知識不足由来の誤りは1件も減らない。ここを取り違えた品質改善は空振りに終わる。 2.7 埋め込み検索とRAG — 外部知識を注意機構に届ける経路 RAGは「モデルに検索させている」のではない。検索した文章をプロンプトに貼り付けているだけである。 この一点を理解すると、失敗の大半がモデル側ではなく検索側で起きている理由が分かる。 応用層での位置づけは⑤5.1節 (第3層: 私有データ)を参照。 2.8 誤解の解体 — 通説と実際 投資判断と業務設計を最も歪めるのは、技術の…
関連する用語
🧰 ツール・特集の入口
一次データで動く 14 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)