プロンプトインジェクションとは
読み: ぷろんぷといんじぇくしょん Prompt Injection AI計算資源・大規模モデルの用語
プロンプトインジェクションとは、外から取り込んだ文章に指示を紛れ込ませ、AIに本来の指示と違う動作をさせる攻撃。国際団体がまとめた大規模言語モデルの脅威の一覧2025年版で1位に置かれる。入口の検査に加え、危ない操作に人の承認を挟む設計が対策になる。
3段で深く知る — 基礎・高級・投資家視点
1行の定義から、体系解説の該当箇所へそのまま降りられる。各段の抜粋は解説本文の冒頭で、続きはリンク先にある。
agent-stack 9. 脅威10項目を、入口・出口・権限・上限の4か所へ
一覧投稿の7番目は、利用者の入力とモデルの出力の2か所に関所を置く形である。入口では個人情報と指示文への攻撃、出口では制限の回避・有害な表現・利用規約に反する内容を止める。この分け方の裏付けになるのが、ウェブの安全を扱う国際団体が2025年版としてまとめた大規模言語モデル向けの脅威の一覧で、1位が指示文への攻撃、10位が無制限な消費である。 順位脅威止める場所設計の要点 表9 脅威と順位は国際団体の一覧 (2025年版) による。止める場所と設計の要点は、一覧の定義を各層に当てはめて記者が割り当てた。 この並べ替えで見えるのは、防御が入口と出口だけでは閉じないことである。6位の過剰な権限は、道具に渡す権限の粒度で決まるため、関所ではなく権限の設計の問題になる。接続の規格が「提示された権限に応じて道具の一覧を絞ってよい」と定めるのは、この対策を規格の側で可能にしたものと読める。10位の無制限…
関連する用語
出典・注記: 第VIII部 エージェント基盤の新設に伴い採用 (2026-09-16)
🧰 ツール・特集の入口
一次データで動く 11 本 — 銘柄の絞り込み・供給網・比較・一次データの台帳・解説・規制レンズ (すべて無料)