プロンプトインジェクション Prompt Injection
一言でいうと: AIへの指示文に不正な命令を紛れ込ませ、AIを攻撃者の意図通りに動かす攻撃手法。
詳しい解説
プロンプトインジェクションは、AIチャットボットやAIアシスタントに与える入力(プロンプト)に悪意ある指示を紛れ込ませ、開発者が設定した本来の動作を上書きする攻撃です。ユーザーが直接不正な指示を入力する「直接型」と、AIが読み込む外部の文書やWebページに指示を仕込んでおく「間接型」があります。特に間接型は、社内文書検索(RAG)やWeb閲覧機能を持つAIアシスタントで問題になりやすく、機密情報の漏えいや不正な操作の実行につながる恐れがあります。
なぜ重要か / 企業への影響
生成AIを業務に導入する企業が増えるほど、攻撃対象となるAIの入口も増えます。社内データと連携したAIアシスタントが乗っ取られると、通常のアクセス制御を迂回して情報が漏えいする可能性があります。AI導入時には「AIが読み込むコンテンツの範囲」と「AIの出力の検証」をセットで設計することが重要です。