プロンプトインジェクション Prompt Injection
一言でいうと: AIへの指示文に不正な命令を紛れ込ませ、AIを攻撃者の意図通りに動かす攻撃手法。
詳しい解説
プロンプトインジェクションは、AIチャットボットやAIアシスタントに与える入力(プロンプト)に悪意ある指示を紛れ込ませ、開発者が設定した本来の動作を上書きする攻撃です。ユーザーが直接不正な指示を入力する「直接型」と、AIが読み込む外部の文書やWebページに指示を仕込んでおく「間接型」があります。特に間接型は、社内文書検索(RAG)やWeb閲覧機能を持つAIアシスタントで問題になりやすく、機密情報の漏えいや不正な操作の実行につながる恐れがあります。
なぜ重要か / 企業への影響
生成AIを業務に導入する企業が増えるほど、攻撃対象となるAIの入口も増えます。社内データと連携したAIアシスタントが乗っ取られると、通常のアクセス制御を迂回して情報が漏えいする可能性があります。AI導入時には「AIが読み込むコンテンツの範囲」と「AIの出力の検証」をセットで設計することが重要です。
実務での判断まで踏み込む
- OWASP LLM Top 10 を自社に当てはめる — 今すぐ見るべき項目はどれか — OWASP LLM Top 10は10項目すべてに同じ労力をかけるものではありません。自社のAI利用の形態ごとに、実際に起こり得る項目とそうでない項目を切り分け、確認の順序を整理します。
- プロンプトインジェクションは防げるのか — 入力検査だけでは止まらない理由 — プロンプトインジェクションは入力のフィルタで防ぎきれません。なぜ根本的な解決が難しいのか、その前提のうえで被害を抑えるために設計側で何を決めるべきかを整理します。
最終更新日: 2026年7月13日
関連用語
- RAG(検索拡張生成) Retrieval-Augmented Generation — AIが回答する前に社内文書などを検索し、その内容を根拠に回答を生成する仕組み。
- ディープフェイク Deepfake — AIで生成した本物そっくりの偽の音声・映像。なりすまし詐欺や偽情報拡散に悪用される。