データポイズニング Data Poisoning

詳しい解説

データポイズニングは、AIモデルの学習に使われるデータに攻撃者が細工したデータを混入させ、モデルの挙動を意図的に歪める攻撃です。特定の入力に対してだけ誤った判断をさせる「バックドア」を仕込む手法や、スパムフィルタ・不正検知AIの精度を全体的に劣化させる手法があります。公開データやユーザー投稿を学習に使うシステム、社内文書を継続的に取り込むRAG構成では、取り込むデータの検証が不十分だと現実的なリスクになります。

なぜ重要か / 企業への影響

自社でAIモデルを学習・チューニングする場合や、外部データを自動で取り込むAIシステムを運用する場合に影響します。学習データの出所管理、取り込みデータの検証プロセス、モデルの挙動監視が対策の柱です。