データポイズニング Data Poisoning
一言でいうと: AIの学習データに悪意あるデータを混入させ、AIの判断を歪める攻撃。
詳しい解説
データポイズニングは、AIモデルの学習に使われるデータに攻撃者が細工したデータを混入させ、モデルの挙動を意図的に歪める攻撃です。特定の入力に対してだけ誤った判断をさせる「バックドア」を仕込む手法や、スパムフィルタ・不正検知AIの精度を全体的に劣化させる手法があります。公開データやユーザー投稿を学習に使うシステム、社内文書を継続的に取り込むRAG構成では、取り込むデータの検証が不十分だと現実的なリスクになります。
なぜ重要か / 企業への影響
自社でAIモデルを学習・チューニングする場合や、外部データを自動で取り込むAIシステムを運用する場合に影響します。学習データの出所管理、取り込みデータの検証プロセス、モデルの挙動監視が対策の柱です。
実務での判断まで踏み込む
- OWASP LLM Top 10 を自社に当てはめる — 今すぐ見るべき項目はどれか — OWASP LLM Top 10は10項目すべてに同じ労力をかけるものではありません。自社のAI利用の形態ごとに、実際に起こり得る項目とそうでない項目を切り分け、確認の順序を整理します。
最終更新日: 2026年7月13日
関連用語
- 敵対的サンプル Adversarial Example — 人間には分からない微細な細工でAIの認識を誤らせる、特殊な入力データ。
- プロンプトインジェクション Prompt Injection — AIへの指示文に不正な命令を紛れ込ませ、AIを攻撃者の意図通りに動かす攻撃手法。