メンバーシップ推論攻撃 Membership Inference Attack
一言でいうと: 特定のデータがAIモデルの学習に使われたかどうかを、外部から推測する攻撃。
詳しい解説
メンバーシップ推論攻撃は、あるデータ(例えば特定の患者のカルテや特定顧客の取引履歴)がAIモデルの学習データセットに含まれていたかどうかを、モデルへの問い合わせ結果だけから推測する攻撃です。学習データに含まれるデータに対して、モデルは通常より高い確信度で予測を返す傾向があり、この差を利用します。単体では「含まれていた/いなかった」という二値情報しか得られませんが、医療・金融・人事など機微なデータセットでは、それ自体が重大なプライバシー侵害になり得ます。
なぜ重要か / 企業への影響
「特定の人物が自社の顧客データベースに含まれているか」が外部から推測できてしまうと、それ自体が個人情報保護法やGDPRなどの規制上の問題になり得ます。特にヘルスケア、金融、採用選考など機微情報を扱うAIサービスを提供する企業は、モデル公開前にこの種の攻撃への耐性を評価することが望まれます。対策としては、差分プライバシーの導入、モデルの汎化性能を高めて学習データへの過学習を防ぐこと、出力する確信度情報の丸め込みなどが挙げられます。
最終更新日: 2026年7月13日