バックドア攻撃(AIモデル) Backdoor Attack
一言でいうと: 特定のトリガー(合言葉や模様など)が入力された時だけ、AIモデルが不正な動作をするように仕込む攻撃。
詳しい解説
AIモデルへのバックドア攻撃は、学習データやモデルそのものに細工を施し、通常の入力に対しては正常に動作するものの、特定の「トリガー」(画像中の特定パターン、文章中の特定フレーズなど)が含まれる入力を受け取った時だけ、攻撃者の意図した誤った出力を返すように仕込む攻撃です。データポイズニングの一種として学習段階で仕込まれる場合と、公開されている学習済みモデルファイル自体に細工が施されている場合があります。トリガーが発動しない限り通常のテストでは異常が検知されにくいのが特徴です。
なぜ重要か / 企業への影響
外部からダウンロードした学習済みモデルや、外部委託先に学習を委託したモデルを利用している場合、意図せずバックドアが仕込まれたモデルを使ってしまうリスクがあります。例えば不正侵入検知AIにバックドアが仕込まれていれば、特定の攻撃手法だけを見逃すよう細工されている可能性もあります。対策としては、モデルの入手元の信頼性確認、モデルの動作検証(様々な入力パターンでの異常検知テスト)、モデルの署名検証やサプライチェーン管理の強化が重要です。
最終更新日: 2026年7月13日
関連用語
- サプライチェーン攻撃 Supply Chain Attack — 標的企業を直接狙わず、取引先や利用中のソフトウェアを踏み台にする攻撃。
- データポイズニング Data Poisoning — AIの学習データに悪意あるデータを混入させ、AIの判断を歪める攻撃。