モデル反転攻撃 Model Inversion Attack
一言でいうと: AIモデルへの問い合わせを繰り返すことで、学習に使われた元データを復元しようとする攻撃。
詳しい解説
モデル反転攻撃は、AIモデルの出力(予測結果や確信度スコアなど)を手がかりに、学習データに含まれていた元の情報を逆算して復元しようとする攻撃です。例えば顔認識モデルに対して繰り返し問い合わせを行い、特定人物の学習時の顔画像を再構成する研究が知られています。医療診断AIや人事評価AIなど、個人の機微な情報を学習に使うモデルでは、モデルの出力から個人を特定できる情報が漏れ出すリスクがあります。
なぜ重要か / 企業への影響
顧客データや従業員データで学習した社内AIモデルを外部に公開・提供する場合、モデル反転攻撃によって元データが復元され、個人情報漏えいにつながる可能性があります。特にAPIとして誰でも問い合わせ可能な形でモデルを公開している企業は注意が必要です。対策として、モデルの出力する確信度情報を制限する、問い合わせ回数を制限する、差分プライバシー技術を学習時に導入するといった方法があります。AIモデルを「学習データを内包した資産」として扱い、アクセス制御と監査ログを整備することが重要です。
最終更新日: 2026年7月13日
関連用語
- メンバーシップ推論攻撃 Membership Inference Attack — 特定のデータがAIモデルの学習に使われたかどうかを、外部から推測する攻撃。
- データポイズニング Data Poisoning — AIの学習データに悪意あるデータを混入させ、AIの判断を歪める攻撃。