差分プライバシー Differential Privacy
一言でいうと: データに統計的なノイズを加えることで、個人を特定できないようにしつつ全体の傾向は分析できるようにする技術。
詳しい解説
差分プライバシーは、データセットに数学的に設計されたノイズを加えることで、個々のレコード(個人のデータ)が含まれているかどうかを外部から判別できないようにしつつ、全体としての統計的傾向は維持する技術です。AIモデルの学習時に差分プライバシーを適用することで、モデル反転攻撃やメンバーシップ推論攻撃への耐性を高めることができます。AppleやGoogleなど大手テクノロジー企業が、利用統計の収集やAIモデルの学習に実運用として採用しています。
なぜ重要か / 企業への影響
顧客データや従業員データを使ってAIモデルを学習させる企業にとって、差分プライバシーはプライバシー保護と分析価値の両立を図る有力な選択肢です。個人情報保護法やGDPRといった規制対応の観点からも、技術的な安全管理措置の一つとして評価されます。一方で、ノイズを加える分だけモデルの精度が低下するというトレードオフがあるため、どの程度のプライバシー保護レベル(プライバシー予算と呼ばれるパラメータ)を設定するかは、リスクと実用性のバランスを踏まえた判断が必要です。
最終更新日: 2026年7月13日
関連用語
- モデル反転攻撃 Model Inversion Attack — AIモデルへの問い合わせを繰り返すことで、学習に使われた元データを復元しようとする攻撃。
- メンバーシップ推論攻撃 Membership Inference Attack — 特定のデータがAIモデルの学習に使われたかどうかを、外部から推測する攻撃。